ИИ-тоталитаризмът може да е нашият край: Харари

Не знам дали човечеството ще надживее изкуствения интелект (ИИ), обяви израелският историк Ювал Ноа Харари в интервю за британския вестник Телеграф.

"Това е първата технология в историята за създаване на истории", разказва писателят, в чиито творби ("Хомо Деус"; "21 урока за 21 в.") последиците от бъдещото технологично развитие са централна тема.

Според него нашата колективна вяра в "историите" – за религията, за финансите и за нацията, наред с много други – е подхранвала господството на човечеството на Земята. Затова миналия месец Харари добави името си към писмо, подписано от хиляди експерти, включително Илон Мъск, призоваващо за мораториум върху изследванията на чатботове като Chat GPT - изкуствен интелект, който може с лекота да създава творчески текстове и да взаимодейства с хората.

Други програми могат да постигат същото с картини и звуци.

"Новото поколение ИИ не просто разпространява съдържание, което хора произвеждат. То може самò да произведе съдържанието", изтъква Харари. "Опитайте се да си представите какво означава да живееш в свят, в който повечето текстове и мелодии, а по-късно телевизионни сериали и изображения са създадени от нечовешки интелект. Просто не осъзнаваме какво означава това. Какви могат да бъдат последствията от това, че ИИ превзема културата."

Тривиални примери вече има. Миналата седмица немско списание беше критикувано за публикуването на нещо, което изглеждаше като ексклузивно интервю с легендарния пилот от "Формула 1" Михаел Шумахер.

Всъщност, оказа се, че текстът е генериран от ИИ, имитиращ парализирания спортист. Харари предполага, че скоро ИИ ще отиде много по-далече - ще създаде свят, в който "отивате онлайн и спорите с някого по някакъв политически въпрос.

"Може дори да ви изпратят видеоклип, на който говорят. Но зад него не стои човек. Всичко е ИИ."

Според историка в бъдеще ИИ може да бъде използван, за да повлиява на хората по спорни въпроси като ваксинирането, изменението на климата или миграцията. Това би било невиждана досега сила за манипулиране на обществения дискурс, обяснява той. Тази сила може да направи така, че скандалите със социалните мрежи от последните 10 години, за които се смята, че са изиграли значителна роля за изборите в страни като Бразилия и Америка, да изглеждат тривиални.

"Това представлява заплаха за демокрациите повече, отколкото за авторитарните режими, защото демокрациите разчитат на обществения разговор", казва Харари. "Демокрацията основно е разговор. Хора, които говорят помежду си. Ако разговорът бъде поет от ИИ, с демокрацията е свършено".

Но какъв ефект може да има технологията, ако бъде използвана злонамерено от тоталитарни режими?

"Нацисткият режим се основаваше на технологии като влаковете, електричеството и радиостанциите. Той не разполагаше с инструменти като изкуствения интелект", казва Харари. "Един нов режим през XXI век ще има много по-мощни инструменти. Така че последствията могат да бъдат много по-пагубни. Това е нещо, което не знам дали човечеството може да надживее".

Дори по-баналните последствия имат потенциала да бъдат революционни.

"Друга заплаха е, че много хора може да се окажат напълно без работа, не само временно. Без базисни умения за бъдещия пазар на труда. Можем да достигнем точка, в която икономическата система възприема милиони хора като напълно безполезни. Това може да има ужасяващи психологически и политически последици."

Автономността на ИИ е това, което го прави толкова различен.

"Трябва да осъзнаем, че ИИ е първата технология в историята, която може да взема решения самостоятелно. Може да взема решения за собствената си употреба. Може също така да взема решения за вас и мен. Това не е прогноза за бъдещето. Това вече се случва.