Разговор с Ноза Бужмаа
– Отношението ни към времето се променя. Каква е ролята на цифровизацията в тази еволюция?
– Дигиталните инструменти имат централна роля, защото благодарение на тях информацията стига до човека: вече не е необходимо нито да чакаме, нито да ходим някъде далече. На практика, където и да се намирате по света, мобилните телефони ви предоставят достъп до интернет и то на всички възможни езици. През първите години на XXI век Лари Пейдж искаше „Гугъл“ [на който и той е един от създателите] да бъде the mind of god – Божият дух, който има способността „да знае какво искате и да ви даде тъкмо онова, от което имате нужда“. Но от момента, в който броят на актьорите на цифровата сцена се увеличи, мигновената реакция се превърна в критерий, гарантиращ конкурентоспособност. Това бе моментът, когато започна глобалната надпревара за предоставяне на информация.
– Състезание, в което и ние сме действащи лица…
– Първоначално потребителят свиква да го привличат с breaking news (извънредни новини), които и официалните медии разпространяват. Те стават редакторска политика, която започва да се следва и от други медии. След това звездният модел изчезва и потребителят сам се превръща в производител на информация. Днес източниците на информация представляват невероятно количество, те могат да бъдат обикновени хора и този ефект се усилва от социалните мрежи.
– През 2003 г. изследователят от Станфордския университет Би Джи Фог издаде книга, посветена на „captology“ – изследванията върху компютрите с цел те да могат да привличат вниманието ни по всички възможни начини…
– Това е моментът, в който се появява икономиката на вниманието – поврат в историята на използването на компютрите. От „Гугъл“ първи започват да я прилагат. Тъй като търсачката им представлява безплатна услуга, те си я изплащат от продажбата на реклама. За времето си този техен икономически модел е изключително новаторски. Основното при него е „Гугъл“ да гарантират на клиентите си – не на потребителите на търсачката, а на рекламните компании – че зад екрана седи аудитория, която може да получава рекламни съобщения. За целта от „Гугъл“ разработват алгоритми за регистрация, с които гарантират и измерват присъствие. Този бизнес модел, първоначално много секретен и пазен в тайна, започва да се разпространява масово сред големите дигитални компании, които предлагат безплатни услуги: съвместно редактиране, електронна поща, стрийминг на културно съдържание, социални мрежи.
– Какво влияние оказват тези алгоритми върху онлайн присъствието ни?
– Тези алгоритми за регистрация, вариант на изкуствен интелект, са измислени така, че да ви държат възможно най-дълго „пленник“ на онлайн пространството. При всеки подобен алгоритъм е зададена целева функция – да оптимизира: задачата е да се избегне монотонността на съдържанието, за да може потребителят „да захапе“. Да вземем следния пример – когато сте в YouTube и гледате видеоклип, веднага ще ви бъде предложен още един. Въпросът е да ви накарат да „скачате като пчела от цвят на цвят“, като ви подават изненадваща информация, често пъти малко преувеличена, и т.н. Задействаните психологически мотивации не винаги са едни и същи. Стимулите имат за цел да ви изненадват, да ви насърчават да останете по-дълго и по този начин по-дълго време да сте потребител на реклама.
– Колкото по–дълго сте потребител, толкова повече тези програми научават за вас и толкова по–често техните стимули удрят право в десетката. Какви могат да бъдат последствията от това?
– Постепенно може да се развие един вид зависимост, която за някои хора може да се окаже опасна. Гледаме известно време YouTube, а след това искаме отново да се върнем към него, защото тези алгоритми имат една единствена цел – да ни съблазнят. И те имат успех, когато „задържат“ потребителите колкото е възможно по-дълго.
– Видеоклипове, които не гледаме до края, бутони, които използваме, за да разберем по-бързо какво ще стане… как анализирате тази свръхстимулация?
–Тя е логично продължение на описаното. Потребителят е свикнал да използва различни източници и видове информация, без задължително да има логична връзка между тях. И тук, между другото, изобщо не засягаме проблема с фалшивите новини. Говорим само, че потребителят е в постоянно очакване нещо да го изненада. Това стимулира желанието му да научи повече – веднага, бързо и още. И след това да трябва да премине към нещо следващо.
– Компанията „Епъл“, която не печели от реклама, сега предлага да следи за времето, което хората прекарват, използвайки телефоните й. Какъв сигнал е това?
– Те усещат, че този феномен на привикването започва трайно да се установява. Предоставяйки ни инструменти за измерване на времето, което прекарваме, използвайки приложения на трети компании, те ни казват: „Ние от „Епъл“ ви помагаме“. Това стимулира отговорната им бизнес дейност, изчиства съвестта им и прилича на скрита реклама. Още повече, че за бдителния родител тази функция може да е достатъчно убедителен аргумент да купи на детето лаптоп „Епъл“.
– Какъв е основният проблем при тази еволюция на алгоритмите?
– Трябва да се ограничи увеличаващият се брой платформи, които имат за мишена един и същ гражданин. Те не се консултират помежду си, а са в постоянна конкуренция, при която индивидът изобщо не влиза в сметките им. В края на краищата, защо им е да му обръщат внимание? Тяхната цел е да продават времето, в което потребителят е онлайн, на тези, които продават реклама. Но някой, който поголовно консумира онлайн съдържание, без изобщо да внимава, може в един момент да се окаже лоботомиран. Гражданите не са защитени. Това е масово замърсяване на мозъци.
– Какви етични въпроси повдига този проблем в сферата, с която се занимавате – изкуствения интелект?
– На ниво индивид ние не осъзнаваме последиците от това развитие. Социологическите и социално-икономическите проучвания, включващи услугите, предлагани от изкуствения интелект, трябва да се извършват чрез използване на данните, притежавани от платформите.
Ние не можем да спрем развитието на изкуствения интелект само защото някои хора злоупотребяват с него. Тези алгоритми за регистрация не са разработени за конкретно приложение. Те, например, могат да бъдат много полезни при диагностика, при препоръчване на лекарства или грижи. Но безспорно, да се въведат някакви рамки е крайно наложително.
Разговора води Лор Бело
Монд, 24.06.2019
Ноза Бужмаа е изследовател, занимаваща се с въпросите на изкуствения интелект. Бивш директор в Inria, отговарящ за изследователската му програма. От февруари 2019 г. ръководи отдел „Наука и иновации“ в компанията Median Technologies.
