, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Алгоритмите за машинно обучение са на мода в момента, тъй като се използват за създаване на всякакъв вид „оригинално“ съдържание след обучение върху огромни предварително съществуващи набори от данни. Въпреки това кодът, генериращ изкуствен интелект (AI), може да представлява истински проблем за сигурността на софтуера в бъдеще.
AI системи като GitHub Copilot обещават да улеснят живота на програмистите чрез създаване на цели парчета „нов“ код, базиран на текстови данни на естествен език и съществуващ контекст. Но алгоритмите за генериране на код също могат да въведат фактор на несигурност, както наскоро установи ново проучване, включващо няколко разработчици.
Разглеждайки конкретно Codex, платформата за изкуствен интелект, разработена от OpenAI, която също е кодовият двигател зад гореспоменатия GitHub Copilot, 47 различни разработчици участваха в проучването. От студенти до опитни професионалисти, те са били предизвикани да използват Codex за решаване на проблеми, свързани със сигурността в Python, JavaScript, C и други езици за програмиране от високо ниво.
Изследователите отбелязват, че когато програмистите имат достъп до AI на Codex, е по-вероятно полученият код да бъде неправилен или несигурен в сравнение с „ръчните“ решения, проектирани от контролна група. В допълнение, програмистите с решения, базирани на AI, са по-склонни да кажат, че техният незащитен код е безопасен, в сравнение с гореспоменатата контролна група.
Але Пери, завършил студент в Станфордския университет и водещ съавтор на изследването, каза, че "системите за генериране на код в момента не могат да заменят човешките разработчици." Според него разработчиците могат да използват инструменти за изкуствен интелект, за да изпълняват задачи извън тяхната компетентност или да ускорят процеса на програмиране, в който вече имат определени умения. Според автора на изследването те трябва да се притесняват и за двете, и винаги да проверяват генерирания код.
Според Мега Сривастава, студентка в Станфорд и втори съавтор на изследването, Codex не е безполезен: въпреки недостатъците на „тъпия“ AI, системите за генериране на код могат да бъдат полезни, когато се използват за задачи с нисък риск. Освен това програмистите, участвали в проучването, не са имали много опит по въпросите на сигурността, което би могло да помогне при идентифицирането на уязвим или опасен код, каза Сривастава.
Алгоритмите на AI също могат да бъдат променени, за да подобрят предложенията за кодиране, а компаниите, разработващи свои собствени системи, могат да получат по-добри решения с модел, който генерира код, по-подходящ за техните собствени практики за сигурност. Според авторите на изследването технологията за генериране на код е „вълнуващо“ развитие и много хора са нетърпеливи да я използват. Просто има още много работа за намиране на правилните решения за справяне с недостатъците на ИИ.
Можете да помогнете на Украйна да се бори срещу руските нашественици. Най-добрият начин да направите това е да дарите средства на въоръжените сили на Украйна чрез Savelife или през официалната страница НБУ.
Също интересно: