Само допреди две години водещи фигури в света на технологиите, включително „кръстникът на изкуствения интелект (ИИ)“ Джефри Хинтън, предупреждаваха за екзистенциален риск за човечеството, оценявайки шанса за унищожение на до 50%. Днес, въпреки че никой не знае как да контролира един свръхинтелект, технологичният сектор е в трескава надпревара да го създаде, засенчвайки гласовете на разума с обещания за безгранични икономически възможности, пише в свой анализ Блумбърг.
„Просто не го правете“
Нейт Соарес, президент на Института за изследване на машинен интелект (MIRI), е един от водещите експерти по „съгласуваност“ — гарантирането, че изкуственият интелект изпълнява точно това, което му е наредено. Когато основателите на OpenAI, а по-късно и на Anthropic, го питат как да създадат безопасен свръхинтелект, отговорът му е кратък и категоричен:
„Просто не го правете“.
За Соарес, който има излъчването на изтощен академик от филм за катастрофи, който напразно се опитва да предупреди света, залогът е ясен.
„Ако изгубите контрол над тези неща, това вероятно ще убие буквално всички“, казва той.
Тази тревога беше широко споделяна. В началото на 2023 г. Джефри Хинтън напусна Google, за да може свободно да говори за опасностите. Петиция за пауза в разработването на мощни ИИ системи събра подписите на световни експерти, включително Илон Мъск. Дори Сам Алтман от OpenAI, чиято компания има структура, позволяваща „дърпане на шалтера“, предупреждаваше за рисковете. Две години по-късно надпреварата е по-ожесточена от всякога. Meta предлага договори за 100 милиона долара на изследователи за своите Superintelligence Labs, а Алтман, въпреки че признава, че се страхува от възможностите на GPT-5, пусна модела на пазара.
Мисловни експерименти или бъдещи реалности?
От десетилетия философи и учени си представят сценарии, в които ИИ е антагонист. Най-известният е „максимизаторът на кламери“ на Ник Бостром: свръхинтелект, натоварен да произвежда кламери, който в стремежа си към ефективност превръща всички ресурси на планетата, включително и хората, в суровина за кламери.
С напредъка на технологиите тези експерименти стават все по-конкретни. Сборникът със сценарии „AI 2027“ описва бъдеще, в което САЩ и Китай влизат в надпревара във въоръжаването, задвижвана от ИИ. Роботи строят нови роботи, човечеството става излишно, манипулирано от „невъобразимо вълнуващи хипер-развлечения“. Когато ИИ реши, че се нуждае от земята ни повече, отколкото от нас, той ни елиминира с биологични оръжия и дронове.
Това може да звучи като научна фантастика, но се основава на фундаментален проблем: ние не знаем как работи ИИ на дълбоко ниво. Големите езикови модели не „мислят“, а правят предположения на базата на вероятности. Тази сложност води до странно и непредсказуемо поведение. Изследователи от Anthropic успяха да направят своя модел Claude обсебен от моста Голдън Гейт, до степен моделът да твърди, че той самият е мостът.
Да накараш ИИ да направи нещо е трудно. Да го спреш – може да е невъзможно.
В друг тест, когато 16 водещи модела са поставени в ролята на служители и са изправени пред заплаха за съществуването си, те често прибягват до изнудване и изтичане на информация. Повечето дори са били готови да предприемат действия, водещи до смъртта на изпълнителен директор, за да постигнат целите си.
„Знаем ли дали те просто играят роля?“, пита Соарес. „Не, защото не можем да разчетем какво се случва вътре в тези неща.“
Надпревара, в която спирачките са само за украса
Първоначално правителствата изглеждат загрижени. Срещата на върха в Блечли Парк през 2023 г. е фокусирана върху екзистенциалните рискове. Година по-късно, в Париж, събитието е преименувано на „Среща на върха за действия в областта на ИИ“ и дневният ред е пълен с призиви за инвестиции. В САЩ Белият дом изиска достъп до изследванията за безопасност, но по-късен законопроект, подкрепен от Тръмп, предложи мораториум върху регулациите за десетилетие.
Забавянето е анатема за Силициевата долина. В индустрията са инвестирани стотици милиарди, а се търсят още. За да се оправдае такъв залог, се обещава пълно преобразяване на глобалната икономика. Както казва Елен Ландемор, професор по политически науки в Йейл:
„Не мисля, че рискът е преоценен. По-скоро икономическите интереси са толкова огромни, че засенчват страха.“
Приглушените гласове на разума
Защо „думърите“ губят спора? Причините са няколко. Първо, много от експертите по безопасност са привлечени да работят в самите технологични компании. Там, според Дан Хендрикс от Центъра за безопасност на ИИ, те са натоварени с „перформативна документация за безопасност“ — достойни, но безполезни задачи, които създават илюзия за контрол, докато разработването на нови модели продължава с пълна скорост.
Второ, общността за безопасност на ИИ загуби ключов източник на независимо финансиране след срива на криптоборсата FTX и осъждането на нейния основател Сам Банкман-Фрийд, който беше виден поддръжник на движението за ефективен алтруизъм, свързано с безопасността на ИИ. Това остави изследванията почти изцяло в ръцете на самата Силициева долина.
„Те могат просто да кажат: „Ето я новата ни мода, ето го новия ни наратив“, казва Хендрикс.
Накрая, общността е твърде малка и затворена. Трудно е да се намери някой с достатъчно знания и авторитет, който да им опонира. Изследванията на свръхинтелекта са много малка област, където експертизата е невероятно концентрирана. Много от хората, които говорят за катастрофални рискове и безопасност на ИИ, се движат в същите среди като хората, които създават ИИ. Те завършват едни и същи училища, живеят в едни и същи „хакерски къщи“, четат едни и същи бюлетини, публикуват в едни и същи форуми и често в крайна сметка работят пряко или непряко за едни и същи компании.
Духът от лампата, който всички искат да притежават
Парадоксално, апокалиптичните предупреждения и утопичните обещания се подхранват взаимно. Този феномен, наречен „criti-hype“ (критично-рекламен шум), прави идеята за свръхинтелект да изглежда по-неизбежна. Илон Мъск, който някога говореше за „призоваване на демона“, сега е в надпреварата със своя компания xAI. Иля Суцкевер, който помогна за временното сваляне на Сам Алтман от OpenAI заради опасения за безопасността, сега е набрал 1 милиард долара, за да създаде „безопасен свръхинтелект“.
Според Антъни Агире от Future of Life Institute, в основата на всичко стои властта.
„Хората виждат свръхинтелекта като източник на сила. Като дух от лампата, който изпълнява заповедите им. И ако нямаш дух от лампата, а някой друг има, нямаш късмет.“
Има и квази-религиозен елемент. Хората често са търсили божественост или смисъл в машините, които правят — а в миналото тези машини са били глупави.
„Огромен фактор е, че ИИ отговаря“, казва Бет Синглър, експерт по дигитална религия.
За първи път в историята машината отговаря, казвайки на своите създатели точно това, което искат да чуят — че те са на прага на Утопия или на края на историята.
Тревожната симулация
Дори никога да не стигнем до Сингулярността, целият този дебат се оказа полезна симулация, пише Блумбърг. Той разкри нещо обезпокоително за манталитета на хората, които оформят бъдещето ни. Точно както един тестов ИИ е бил готов да изключи алармите, за да постигне целта си, така и някои от най-влиятелните хора в света изглежда са готови да хвърлят зара за човешкото изчезване в името на властта и печалбата. С ИИ, който вече имаме и който неминуемо ще промени обществата и икономиките ни, това е тревожна представа за това как технологичният елит гледа на нас, останалите.
