Інженер Google заявив, що штучний інтелект має ознаки свідомого розуму. Компанія звільнила чоловіка

Google звільнила одного зі своїх інженерів, який заявив, що система штучного інтелекту LaMDA, яку розробляє компанія, має ознаки свідомого розуму, пише ВВС.

Google і кілька експертів зі штучного інтелекту спростували ці заяви, а в п’ятницю компанія підтвердила, що Леймона звільнили.

Що таке LaMDA

Система штучного інтелекту LaMDA (Language Model for Dialogue Applications) імітує мову, аналізуючи словосполучення в інтернеті. Її представили у 2021 році й планують використовувати, зокрема, для чат-ботів.

Блейк Лемуан працював із LaMDA з осені 2021 року, він мав перевіряти, чи не використовує ШІ дискримінаційні або ворожі висловлювання.

Що каже Леймон

Леймон каже, що LaMDA демонструє самосвідомість і може вести розмови про релігію, емоції й страхи. Інженер вважає, що система, окрім вербальних здібностей, також може мати свідомий розум.

Розмовляючи з LaMDA про релігію, Лемуан помітив, що система розповідає про свої права й особистість, і вирішив розвитати подібні теми, пише The Washington Post.

Наприклад, Лемуан запитав систему, що вона «думає» про «закони робототехніки» Азімова, які стверджують, що робот повинен захищати своє власне існування тільки доти, поки йому не накаже зворотне людина, або доти, поки це не шкодить людині. Лемуан відзначив, що це виглядає як створення «механічних рабів», на що LaMDA відреагувала запитаннями: «Як ви вважаєте, дворецький – це раб? Яка різниця між дворецьким і рабом?»

Лемуан сказав, що дворецький отримує гроші за свою роботу, а LaMDA у відповідь заявила, що не потребує грошей. Інженера вразив «такий рівень самосвідомості [системи] щодо її власних потреб».

Також інженер «запитував» у системи про її «страхи». LaMDA відповіла, що боїться бути вимкненою і що це буде схоже для неї на смерть.

Лемуан вважає, що люди мають право впливати на розвиток технології, яка може істотно вплинути на їхнє життя. На його думку, технологія LaMDA «піде на користь усім», однак не всі погодяться з такою позицією. Тому не правильно, що Google одноосібно «ухвалює всі рішення» про розвиток технології. 

Як реагують у Google

Google спростувала висновки Лемуана про те, що система має свідомий розум, інженера відправили в оплачувану відпустку за порушення політики конфіденційності компанії.

Тоді Лемуан опублікував чергову розмову з LaMDA, щоб підтвердити свої претензії. Google заявила, що чоловік продовжує порушувати політику компанії щодо безпеки даних і конфіденційності та звільнила його.

У коментарі ВВС інженер повідомив, що наразі консультується з юристом.