Організація Future of Life Institute оприлюднила відкритий лист із закликом призупинити розвиток систем штучного інтелекту, потужніших за ChatGPT-4.

Лист підписали більш як тисяча експертів, серед яких учені, бізнесмени, розробники, історики й філософи. Зокрема, свої підписи поставили засновник SpaceX Ілон Маск, співзасновник Apple Стів Возняк й історик Юваль Ной Харарі.

Серед підписантів також науковці провідних американських ЗВО й компанії, що займаються розвитком ШІ. Жоден із представників компанії OpenAI, розробників ChatGPT на момент публікації не підписав листа.

Що пропонують автори

Автори листа наголошують, що розвиток штучного інтелекту може спричинити значні зміни в житті всього людства, і тому цей процес потребує ретельного прогнозування й контролю, які наразі не в змозі забезпечити навіть творці програм.

Усі лабораторії, що займаються розробленням програм ШІ, потужніших за ChatGPT-4, закликають призупинити роботу щонайменше на пів року. Якщо розробники не зроблять паузу, урядовці повинні втрутитися та ввести відповідний мораторій, вважають автори листа.

Пауза потрібна для того, щоб розробити й впровадити протоколи безпеки для розробників штучного інтелекту. Ці протоколи мають «ретельно перевіряти й контролювати незалежні експерти», ідеться в листі.

Крім того, на думку авторів листа, у світі повинні зʼявитися регуляторні органи, які наглядатимуть за розвитком ШІ; системи аудиту й сертифікації; а також «добре забезпечені ресурсами установи, що займатимуться подоланням драматичних економічних і політичних криз, які спричинить ШІ».

«Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики – керованими», – ідеться в листі.

Цей матеріал підготували за підтримки наших читачів

Donate

Чат-бот зі штучним інтелектом ChatGPT запустила в листопаді 2022-го компанія OpenAI, яку заснували Ілон Маск і Сем Альтман. За січень 2023 року ChatGPT встановив рекорд щодо найшвидшого зростання бази користувачів, охопивши 100 мільйонів. В Україні штучний інтелект став доступним у лютому 2023 року.

ChatGPT уміє створювати тексти, перекладати, вести діалоги, писати вірші й жартувати. Доступність інструменту викликала дискусії щодо академічної доброчесності й дезінформації.

У березні 2023-го компанія OpenAI випустила нову «більш потужну» версію штучного інтелекту ChatGPT. Водночас оновлений ШІ все ще не надійний, він викривляє факти й допускає помилки в судженнях, зазначали в OpenAI.

 Читайте «Нормальні новини» в телеграмі