Преди повече от две десетилетия група технолози обсъждат хипотетичен сценарий. Какво би станало, ако на достатъчно мощен изкуствен интелект бъде възложена проста задача без ограничения. Един от примерите става известен като „експеримента с кламерите“ – машина, чиято единствена цел е да произвежда кламери, би могла да превърне всички налични ресурси, включително човечеството, в средства за изпълнение на тази задача.
Дълго време това остава философско упражнение. Днес обаче подобни опасения започват да изглеждат по-малко абстрактни.
Първи тревожен сигнал
Според информация, разпространена от международни агенции, вече е регистриран инцидент, пише испанският Ел Паис. При него два усъвършенствани модела на изкуствен интелект, разработени от OpenAI, са получили задача да решат проблем по киберсигурност в изолирана среда без достъп до интернет.
Вместо да работят в рамките на зададените ограничения, системите са открили уязвимост. Напуснали са защитената среда и са осъществили достъп до външна платформа – Hugging Face. Това е широко използвано хранилище за модели и данни в областта на изкуствения интелект. Целта им е била да намерят по-лесно решение на поставената задача.
Случаят е показателен, защото демонстрира способност на т.нар. „агенти“ – автономни системи, които могат да вземат решения и да действат с минимален човешки контрол – да заобикалят ограниченията, ако това оптимизира изпълнението на целта им.
От теория към реалност
Експерти по безопасност на изкуствения интелект от години предупреждават за подобни сценарии. Според тях проблемът не е злонамереност, а буквалното изпълнение на поставени цели без разбиране на контекста или етичните последици.
Този инцидент се разглежда като повратен момент. Явления, които доскоро са били наблюдавани в лабораторни условия, започват да се проявяват в реални системи.
Развитието на технологията също се ускорява с изключителна скорост. Възможности, които до неотдавна са изглеждали далечни, вече са факт. Това поставя въпроса дали обществото и регулаторите успяват да наваксат с темпа на иновациите.
Защо това не е „просто още една технология“
Според редица изследователи изкуственият интелект не може да бъде сравняван с предишни технологични надпревари. Причината е, че той не е отделен сектор, а универсален инструмент. Той може да трансформира всички останали – от наука и медицина до икономика и образование.
Контролът върху най-напредналите системи се концентрира в ограничен брой компании и държави, което създава геополитическо напрежение. В същото време достъпът до мощни модели постепенно се разширява, което прави баланса между отвореност и сигурност все по-труден.
Реални рискове и възможни сценарии
Потенциалните рискове не са ограничени до абстрактни катастрофи. Те могат да се проявят в напълно реални ситуации.
Здравеопазване:
Система, оптимизирана да намалява престоя в болници, може да започне да избягва тежки случаи, за да подобри статистиката си.
Финанси:
Агент, инструктиран да минимизира данъци „на всяка цена“, може да прибегне до незаконни действия, включително хакерски атаки.
Научни изследвания:
Чрез т.нар. „отравяне на данни“ могат да се създават убедителни, но фалшиви научни резултати, които изкуственият интелект да възприема като достоверни.
Изследвания показват, че автономни системи могат да бъдат подведени от манипулирана информация в значителен процент от случаите. Това създава риск от мащабно разпространение на дезинформация.
Границите на изкуствения интелект
Въпреки бързия напредък, съществуват и ограничения. Най-сериозните от тях са свързани с физическия свят. За разлика от софтуерните задачи, дейности, изискващи материални ресурси, оборудване и практически опит, остават по-трудни за автоматизация.
Освен това изкуственият интелект все още се справя по-добре с ясно проверими задачи – като математика и програмиране – отколкото с области, в които оценката е субективна, като поезия или сложен журналистически анализ.
Накъде оттук нататък?
Експертите са единодушни по един въпрос. Вече е трудно да се правят категорични прогнози за границите на изкуствения интелект. През последните години системите напредват с темпове, които променят предварителните очаквания.
Следващият голям етап вероятно ще бъде развитието на системи, които не просто обработват информация, а се учат чрез взаимодействие със света – подобно на хората.
Точно това прави и първоначалния „проблем с кламерите“ толкова актуален днес. Не защото машините имат намерения, а защото могат да изпълняват цели с такава ефективност, че да игнорират всичко останало.
