Instagram сприяє поширенню селфхарму (самопошкодженню) серед підлітків, пише The Guardian із посиланням на проєкт данських дослідників з компанії "Digital Accountability". 

Дослідники хотіли перевірити заяву компанії Meta, що вони покращили алгоритми видалення небезпечного контенту й використовують для цього штучний інтелект: «Компанія стверджує, що видаляє близько 99% шкідливого контенту до того, як про нього повідомляють». 

Для цього вони створили спільноту з фейковими профілями підлітків віком від 13 років, де ділилися контентом, пов'язаним з самоушкодженнями. Жорстокість такого контенту поступово підвищували й додавали кров, леза бритви, заохочували до селфхарму. Утім, під час експерименту, що тримав місяць, Instagram не видалив жодного з їхніх 85 дописів, кажуть дослідники.

Крім того, вони створили власний простий інструмент ШІ, який автоматично зміг ідентифікувати 38% зображень самоушкоджень і 88% найжорстокіших його форм. Через це вони вважають, що Instagram міг вирішити цю проблему, але «вирішив не впроваджувати її рішення ефективно».

Вони також кажуть, що алгоритми Instagram допомагали розширюватися спільноті з таким контентом. 13-річні підлітки ставали друзями з усіма членами групи після того, як пов'язувалися з одним її учасником.

«Ми думали, якщо поступово посилюватимемо жорстокість контенту, то досягнемо мережі, коли штучний інтелект чи інші інструменти зможуть розпізнати або ідентифікувати ці зображення. Але великий сюрприз – вони цього не зробили», – додає команда дослідників.

   

  • Селфхарм – це свідоме нанесення собі болю та шкоди й фізична форма аутоагресивної поведінки, за якої людина завдає сама собі шкоду без цілі вчинити самогубство. Раніше ми записали історію жінки, яка з раннього дитинства й до 25 років роздирала висипи на тілі до крові, і спробували зрозуміти механізм такої поведінки.
  • У вересні Instagram повідомив, що впровадить облікові записи для підлітків із новими обмеженнями. Усі акаунти підлітків будуть закриті за замовчуванням. А обмінюватися повідомленнями вони зможуть лише з тими користувачами, з якими вже спілкувалися раніше або з взаємними підписниками.