Бившият шеф на Google сравни изкуствения интелект с ядрени оръжия

Бившият главен изпълнителен директор на Google Ерик Шмид сравни изкуствения интелект (AI) с ядрени оръжия и призова за режим на възпиране, подобен на взаимно гарантирано унищожение, който предпазва най-мощните нации в света от унищожаване една друга.

Шмид говори за опасностите от изкуствения интелект на Форума за сигурност в Аспен на 22 юли по време на дискусия за националната сигурност и ИИ. На въпрос за стойността на морала в технологиите, Шмид обясни, че самият той е бил наивен относно силата на информацията в ранните дни на Google. След това той призова технологиите да отговарят по-добре на етиката и морала на хората, на които служат, и направи странно сравнение между изкуствения интелект и ядрените оръжия.

„Не сме готови за преговорите, от които се нуждаем. – @ericschmidt #AspenSecurity снимкаtwitter.com/As749t6ZyU

— Форум за сигурност на Аспен (@AspenSecurity) Юли 22, 2022

Шмид говори за близкото бъдеще, в което Китай и САЩ трябва да сключат споразумение за изкуствения интелект. „През 50-те и 60-те години в крайна сметка създадохме свят, в който имаше правило за „без изненади“ за ядрени опити и в резултат на това те бяха забранени“, каза Шмид. „Това е пример за баланс между доверие или липса на доверие, това е правилото „без изненади“. Много съм загрижен, че гледната точка на САЩ за Китай като корумпиран или комунистически или каквото и да е, и гледната точка на Китай за Америка като губещ... ще позволи на хората да кажат: "О, Боже мой, те намислят нещо," и след това ще започне нещо неразбираемо... .

AI и машинното обучение са завладяваща и често неразбрана технология. По принцип не е толкова умен, колкото си мислят хората. Той може да създава произведения на изкуството на ниво шедьовър, да побеждава хора в Starcraft II и да извършва елементарни телефонни разговори за потребителите. Въпреки това, опитите да го накара да изпълнява по-трудни задачи, като например шофиране на кола в голям град, не са успешни.

Шмид говори за въображаемо близко бъдеще, в което и Китай, и САЩ ще бъдат загрижени за проблемите на сигурността, което ще ги принуди да сключат вид договор за ограничаване на ИИ. Той припомни 1950-те и 60-те години на миналия век, когато дипломацията разработи серия от мерки за контрол върху най-смъртоносните оръжия на планетата. Но беше необходимо десетилетие на ядрени експлозии и, най-важното, унищожаването на Хирошима и Нагасаки, за да настъпи мир преди сключването на Договора за забрана на ядрените опити, SALT II и други важни закони.

Два японски града, разрушени от Америка в края на Втората световна война, отнеха живота на десетки хиляди хора и доказаха на света вечния ужас на ядрените оръжия. Тогава правителствата на Русия и Китай се втурнаха да придобиват оръжия. Начинът, по който живеем с възможността тези оръжия да бъдат използвани, е това, което е известно като взаимно гарантирано унищожение (MAD), теория за възпиране, която гарантира, че ако една страна изстреля ядрено оръжие, е възможно всяка друга да го направи. Ние не използваме най-разрушителните оръжия на планетата поради възможността те да унищожат поне цивилизацията по света.

Въпреки колоритните коментари на Schmidt, ние не искаме и не се нуждаем от MAD за AI. Първо, ИИ все още не е доказал своята разрушителна сила в сравнение с ядрените оръжия. Но хората на власт се страхуват от тази нова технология и обикновено по погрешни причини. Хората дори предложиха да предадат контрола върху ядрените оръжия на изкуствен интелект, вярвайки, че той би бил по-добър арбитър при използването му от човека.

Проблемът с изкуствения интелект не е, че има потенциално разрушителната сила на ядрено оръжие. Въпросът е, че изкуственият интелект е толкова добър, колкото хората, които са го разработили, и че носи ценностите на своите създатели. AI страда от класическия проблем „боклук вътре, боклук вън“: расистките алгоритми създават расистки роботи и всички AI носят пристрастията на своите създатели.

Демис Хасабис, главен изпълнителен директор на DeepMind, компанията, обучила AI, който побеждава играчите на Starcraft II, изглежда разбира това по-добре от Шмид. В интервю от юли в подкаста на Лекс Фридман, Фридман попита Хасабис как може да бъде контролирана толкова мощна технология като AI и как самият Хасабис може да избегне покварата от тази власт.

Отговорът на Khasabis е за самия него. „Изкуственият интелект е твърде голяма идея“, каза той. „Важно е кой създава AI, от какви култури идват и какви са техните ценности. AI системите ще се учат сами... но системата ще остане запечатана с културата и ценностите на авторите на системата."

Изкуственият интелект е отражение на своя автор. Не може да изравни град със земята с взрив от 1,2 мегатона. Освен ако човек не го научи на това.

Можете да помогнете на Украйна да се бори срещу руските нашественици. Най-добрият начин да направите това е да дарите средства на въоръжените сили на Украйна чрез Savelife или през официалната страница НБУ.

Прочетете също:

• Ново приложение Samsung използва AI за подобряване на вашите снимки
• Изкуственият интелект помага при идентифицирането на астрономически обекти