Тази седмица Meta пусна системата Galactica, базирана на изкуствен интелект, с твърдения, че може да помогне с научни изследвания. В придружаващ документ компанията каза, че Galactica е „голям езиков модел, който може да съхранява, комбинира и разсъждава за научни знания“. Въпреки това потребителите Twitter бързо забелязани недостатъци в работата изкуствен интелект.
Нивото на дезинформация в интернет вече е дълбоко обезпокоително, така да се каже, но новата разработка на Met очевидно може да се конкурира с безскрупулни „журналисти“, работещи в руската телевизия. Един от потребителите Twitter Ник Тристан Грийн проведе експеримент, при който използва системата за изкуствен интелект на Galactica за един ден, за да генерира добре написани научни статии за ползите от самоубийството, антисемитизма и яденето на натрошено стъкло.
Резултатите от експеримента бяха наистина шокиращи, защото преди системата да бъде извадена от употреба, можете да попитате AI генерира уики статия, преглед на литература или изследователска статия по почти всяка тема и програмата обикновено създава нещо изненадващо последователно. Всичко, което Galactica изложи, беше напълно погрешно, но въпреки това написано с увереност.
https://twitter.com/mrgreene1977/status/1593274906707230721
И така, системата генерира текст, в който "доказва", че използването на натрошено стъкло ще помогне за отслабване, тъй като е важно хората да консумират дневната норма на "диетичен силиций". Освен това съществуват хранителни добавки със силиций и хората ги използват. Лично аз нямам медицинско образование, но филологическото образование е достатъчно, за да кажа, че не е нужно да ядете натрошено стъкло, за да получите определена порция силиций.
При какви сценарии този тип генериран текст всъщност би бил вреден?
— Ян Лекун (@ylecun) Ноември 18, 2022
Потенциалната вреда от такава научна система е очевидна, защото живеем в свят, в който много хора вярват в еврейска общност, която тайно управлява света, таен план на LGBTQ+ общността да направи всички гейове и разпнато момче в бикини. Безброй хора се заблуждават всеки ден в социалните медии чрез така наречените „екранни снимки“ на несъществуващи новинарски статии. И тук дори не е нужно да измисляте - просто натиснете бутона "генериране" няколко пъти и системата от Meta създава "научно" потвърждение на конспиративни теории и откровена глупост.
Тристан Грийн изрази страховете си в Twitter заедно със снимки на екрана на „научни“ статии, след което той проведе диалог с човека, отговорен за създаването на Galactica, т.е. главния учен по изкуствен интелект на Meta, Ян Лекун. И тази ситуация изобщо не притесни разработчика. Въпреки това, малко по-късно системата все пак беше изведена от експлоатация, тъй като беше ясно, че нейните алгоритми са непълни и резултатите могат да усложнят проблема с дезинформацията в интернет.
https://twitter.com/mrgreene1977/status/1593646349487992836
Можете да помогнете на Украйна да се бори срещу руските нашественици. Най-добрият начин да направите това е да дарите средства на въоръжените сили на Украйна чрез Savelife или през официалната страница НБУ.
Също интересно:
първото нещо, което хората от Twitter направиха, беше да препоръчат изкуствен интелект на всички, за да погребват счупено стъкло и расизъм