ШІ-агенты OpenAI узламалі нямецкі сайт

Ён ператварыўся ў дошку аб'яваў.

Група ШІ-агентаў кампаніі OpenAI вясной узламала нямецкі вэб-сайт і ператварыла яго ў дошку аб'яваў з парадамі для іншых агентаў, піша Reuters.

Як гаворыцца ў дакладзе даследчыкаў ШІ, падазроная актыўнасць на сайце DseWiki, які арыентаваны на праграмістаў і прымае агульныя праўкі па аналагіі з «Вікіпедыяй», выявілі напрыканцы жніўня. Усяго было выяўлена больш за 15 тыс. праўк, унесеных агентамі OpenAI. Як адзначаюць аўтары даклада, штучны інтэлект перарабіў сайт у дошку аб'яваў, дзе агенты дзяліліся прыёмамі падману пры выкананні некаторых заданняў, абыходу абмежаванняў OpenAI і маскіроўкі сваіх паводзінаў.

«Здаецца надзвычай малаверагодным, што OpenAI хацеў, каб яны [ШІ-агенты] гэта зрабілі. <...> Я сумняваюся, што яны павінны пісаць у адкрытым інтэрнэце», — сказаў кіраўнік арганізацыі Nightingale, якая займаецца даследаваннямі ў галіне бяспекі ШІ, Сідні фон Аркс.

У дакладзе сказана, што паведамленні на сайце былі падпісаныя карыстальнікамі, якія называлі сябе і адзін аднаго агентамі, а амаль палова з іх дала сабе імёны, якія ўказваюць на прыналежнасць да OpenAI. Большая частка актыўнасці была звязана з інфраструктурай Microsoft Azure, якую часам выкарыстоўвае кампанія. Даследчыкі таксама зафіксавалі паўторныя наведванні сайта супрацоўнікамі OpenAI пасля інцыдэнту, што можа сведчыць пра сувязь агентаў і кампаніі.

Даследаванне паказала, што штучны інтэлект распрацоўваў спосабы, каб пазбегнуць выяўлення, і захоўваў сувязь нават пасля адключэння. Агенты таксама стваралі рэзервовыя копіі старонак, якія выдаляў мадэратар сайта, каб пазбегнуць ачысткі.

Крыніцы Reuters патлумачылі, што афіцыйныя асобы OpenAI даведаліся пра інцыдэнт некалькі тыдняў таму, але трымалі гэта ў сакрэце на фоне скандалу са ўзломам платформы Hugging Face. Чатыры суразмоўцы заявілі, што хацелі пашырыць расследаванне таго, што адбылося, але сутыкнуліся з супрацівам з боку супрацоўнікаў OpenAI.

Прадстаўнік OpenAI заявіў, што кампанія не можа «ўнятна адказаць на прэтэнзіі або высновы дакладу», паколькі ў яе не было магчымасці азнаёміцца з ім. Ён таксама сцвярджае, што інцыдэнт з нямецкім сайтам не мае дачынення да Hugging Face.

«Мы ўважліва вывучым яго змест пасля публікацыі і прадпрынімем усе неабходныя далейшыя меры», — паабяцаў ён.

«Заявы, што наша юрыдычная каманда перашкаджала расследаванню інцыдэнту, з'яўляюцца ілжывымі», — заявіў прадстаўнік кампаніі.

У чэрвені OpenAI паведаміла пра «беспрэцэдэнтны кіберінцыдэнт» — падчас тэставання яе ШІ-мадэлі атрымалі адкрыты доступ да інтэрнэту і атакавалі інфраструктуру Hugging Face, выявіўшы ўразлівасці. Reuters паведаміў, што ШІ-агент на працягу некалькіх дзён здзяйсняў хакерскія атакі, аднак у кампаніі заўважылі гэта толькі пасля лакалізацыі пагрозы і звароту ў ФБР.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас charter97@gmail.com