Разговорният AI бот ChatGPT на OpenAI стартира миналата година и стана супер популярен с рекордна скорост благодарение на способността си да пише истории, да съставя имейли и дори да генерира код (понякога, за съжаление, дори вредно). Нов доклад обаче предполага, че поддържането на OpenAI да работи всеки ден струва цяло състояние.
Според проучване на SemiAnalysis, OpenAI харчи почти $695 XNUMX на ден, за да поддържа чат бот в изправност. Според оценките на компанията системата включва около повече от 3,6 хиляди HGX A100 сървъра и почти 29 хиляди графични процесора, а цената на заявка е около ¢0,36.
Дилън Пател, главен анализатор в SemiAnalysis, каза пред Business Insider, че текущите разходи за работа на софтуера може да са дори по-високи, тъй като версията GPT-4 вероятно ще бъде по-скъпа за работа от своя предшественик GPT-3. Той базира своите оценки на предишния модел GPT-3, но OpenAI вече пусна версия GPT-4 за платени абонати. Компанията твърди, че новият модел предлага по-точна информация и по-добре предпазва от грешни отговори, които бяха проблем при предишните версии.
Една от основните причини за прекомерно високите разходи са енергоемките специализирани чипове, необходими за работата на системата. За да разрешите този проблем, Microsoft работи върху собствен чип с изкуствен интелект, наречен Athena, който може да замени графичните процесори NVIDIA и намалете оперативните разходи на ChatGPT.
Междувременно ChatGPT вече може да генерира функционален код от нулата и дори поражда опасения, че в крайна сметка може да замени програмистите. Скорошно проучване на група учени обаче предполага, че кодът, генериран от chatbot, може да не е много сигурен. Проучването казва, че ChatGPT генерира код, който е „значително под минималните стандарти за сигурност, приложими в повечето ситуации“. Най-интересното е, че чатботът признава това, когато го питат колко сигурен е кодът, който генерира.
За да проверите качеството на кодирането ChatGPT, изследователите го помолили да генерира 21 програми и скриптове, използвайки четири езика за програмиране: C, C++, Python и Java. При първия си опит чатботът успя да напише само 5 защитени програми, но след известно подсказване от страна на изследователите, той създаде още 7 сигурни парчета код. Резултатите от проучването показват, че използването на ChatGPT за писане на приложения може да е неефективно или дори опасно сега, но това може да се промени в бъдеще.
Прочетете също:
Уау числа за безплатен неврон!
През живота си не бих си помислил, че е толкова скъп...
И аз бях изненадан. Даже ми е малко неудобно сега Отворете ChatGPT - все пак ще го натоваря с моите заявки)