Спонсорирани от държавата хакери от Русия, Китай и Иран са използвали инструменти на OpenAI, за да усъвършенстват своите умения и хакерски атаки. Както съобщиха от Microsoft, експертите на компанията проследиха хакерски групи, свързани с руското военно разузнаване, Корпуса на гвардейците на ислямската революция, както и правителствата на Китай и Северна Корея, които се опитваха да подобрят своите хакерски кампании с помощта на големи езикови модели.
Компанията обяви находката, докато въведе обща забрана за подкрепяните от държавата хакерски групи да използват нейните продукти с изкуствен интелект. „Ние просто не искаме тези субекти, които сме идентифицирали – които наблюдаваме и знаем, че представляват заплаха от различни видове – ние не искаме те да имат достъп до тази технология“, каза вицепрезидентът. Microsoft по сигурността на клиентите Том Бърт. Докладът споменава такива хакерски групи като Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon и Salmon Typhoon.
Твърдения, че хакери са били заловени да използват инструментите AI за подобряване на възможностите си за шпионаж, подчертава опасенията относно бързото разпространение на технологията и нейния потенциал за злоупотреба. Западни експерти по киберсигурност предупредиха миналата година, че престъпниците злоупотребяват с подобни инструменти, въпреки че досега нямаше конкретни данни за това.
„Това е един от първите, ако не и първият случай, в който компания за изкуствен интелект публично обсъжда как нападателите използват технологии за изкуствен интелект“, каза Боб Ротстед, ръководител на отдела за разузнаване на заплахите в киберсигурността в OpenAI.
OpenAI че Microsoft описва използването на техните AI инструменти от хакерите като „ранен етап“ и „постепенно“. Според Бърт нито една компания не е виждала кибер шпиони да правят пробив: „Виждали сме ги просто да използват технологията като всеки друг потребител.“
Докладът описва хакерски групи, които използват големи езикови модели по различни начини. Хакерите, за които се твърди, че работят от името на руската игра, са използвали моделите, за да разследват „различни сателитни и радарни технологии, които може да са от значение за военните операции в Украйна“, каза агенцията. Microsoft. И севернокорейските хакери са използвали моделите, за да създадат съдържание, „което вероятно ще бъде използвано във фишинг кампании“.
Иранските хакери също разчитаха на моделите да пишат по-убедителни имейли. И китайските хакери, които според тях се издържат от държавата Microsoft, експериментират с големи езикови модели, за да задават въпроси относно конкурентни разузнавателни служби, проблеми с киберсигурността и „видни личности“.
Прочетете също: