Розробники чат-бота зі штучним інтелектом ChatGPT, американська компанія OpenAI, заявили, що посилюють заходи безпеки для продукту, щоб захистити конфіденційність користувачів.

Імовірність того, що чат-бот буде за запитом користувача генерувати контент із мовою ненависті, агресивним або насильницьким змістом, для останньої моделі ChatGPT-4 знижена на 82%, відзначили в OpenAI. Також у компанії заявили, що створили систему для відстеження зловживань.

Крім того, розробники кажуть, що працюють над видаленням особистої інформації з навчального набору даних моделі, щоб чат-бот не міг генерувати відповіді, які містять дані про приватних осіб.

Також намагаються поліпшити фактологічну точність чат-бота. За словами розробників, ChatGPT-4 має на 40% більше шансів надати фактологічно правильну відповідь, ніж версія ChatGPT-3.5.

У компанії відзначили, що, незважаючи на широкі дослідження, не можуть цілком передбачити, як люди будуть використовувати технологію, а також як зловживатимуть нею. Рішенням в OpenAI називають удосконалення системи з огляду на реальний досвід використання чатбота.

Раніше Італійська служба захисту даних заблокувала чатбот ChatGPT, звинувативши розробників у незаконному зборі особистих даних італійських користувачів. Служба звернула увагу на «відсутність правової бази, що виправдовує масовий збір і зберігання персональних даних з метою «навчання» алгоритмів», а також на відсутність інформування користувачів й інших осіб, чиї дані були зібрані OpenAI.

Цей матеріал підготували за підтримки наших читачів

Donate

Чат-бот зі штучним інтелектом ChatGPT запустила в листопаді 2022-го компанія OpenAI, яку заснували Ілон Маск і Сем Альтман. За січень 2023 року ChatGPT встановив рекорд щодо найшвидшого зростання бази користувачів, охопивши 100 мільйонів. В Україні штучний інтелект став доступним у лютому 2023 року.

ChatGPT уміє створювати тексти, перекладати, вести діалоги, писати вірші й жартувати. Доступність інструменту викликала дискусії щодо академічної доброчесності й дезінформації.

У березні 2023-го компанія OpenAI випустила нову «більш потужну» версію штучного інтелекту ChatGPT. Водночас оновлений ШІ все ще не надійний, він викривляє факти й допускає помилки в судженнях, зазначали в OpenAI.

У березні 2023-го відкритий лист із закликом призупинити розвиток систем ШІ підписали Ілон Маск і співзасновник Apple. Автори листа закликають усі лабораторії, що розробляють програми ШІ, потужніші за ChatGPT-4, призупинити роботу щонайменше на пів року. Пауза потрібна для того, щоб розробити й упровадити протоколи безпеки для програм штучного інтелекту.

 Читайте «Нормальні новини» в телеграмі