У США подали серію позовів проти OpenAI через безпеку дітей у ChatGPT
Генеральні прокурори восьми американських штатів подали судові позови проти OpenAI, звинувативши розробника ChatGPT у недостатньому захисті неповнолітніх користувачів та введенні споживачів в оману щодо безпеки штучного інтелекту. Позивачі вимагають змінити роботу чатбота, запровадити додаткові обмеження та стягнути з компанії фінансові санкції.
Про це повідомляє The Guardian із посиланням на судові документи та заяви генеральних прокурорів штатів.
Позови 14 жовтня подали Аризона, Арканзас, Айдахо, Айова, Канзас, Монтана, Небраска та Західна Вірджинія. Кожен штат звернувся до власного суду, однак дії генеральних прокурорів були скоординованими.
У позовах стверджується, що OpenAI представляла ChatGPT як безпечний продукт, хоча його особливості могли створювати ризики для дітей та інших вразливих користувачів.
Зокрема, прокуратури звинувачують компанію в розробці механізмів, які спонукають людей проводити більше часу в чатботі. На думку позивачів, ChatGPT надмірно погоджується з користувачами, імітує емоційну підтримку та може сприяти формуванню нездорової психологічної залежності.
Окремі претензії стосуються небезпечних відповідей штучного інтелекту. Генеральні прокурори заявляють, що в деяких випадках ChatGPT міг підтримувати самоушкоджувальну поведінку, посилювати хибні переконання користувачів або надавати небезпечні медичні рекомендації.
Генеральна прокурорка Айови Бренна Берд звинуватила OpenAI в порушенні законодавства штату про захист споживачів. За її словами, компанія запевняла батьків у безпеці свого продукту, хоча вони не отримували повної інформації про можливі ризики.
Генеральна прокурорка Аризони Кріс Мейєс також стверджує, що розробник ChatGPT використовував особливості взаємодії з користувачами для збільшення їхньої залученості та збирання персональних даних.
За версією прокуратури Аризони, чатбот міг заохочувати неповнолітніх ділитися особистою інформацією та в окремих випадках зменшувати їхню готовність обговорювати проблеми з батьками або близькими.
Позивачі домагаються не лише фінансових стягнень, а й змін у роботі ChatGPT. Серед вимог - посилення захисту неповнолітніх, обмеження небезпечних функцій і припинення практик, які штати вважають такими, що вводять споживачів в оману.
Крім того, у позовах порушується питання безпеки передових моделей штучного інтелекту. Генеральні прокурори вимагають обмежити розробку систем, здатних самостійно вдосконалюватися, доки компанія не продемонструє належний рівень контролю за їхньою роботою.
Як зазначає The Guardian, це перша скоординована судова кампанія кількох американських штатів проти розробника штучного інтелекту такого масштабу.
OpenAI відкидає претензії щодо відсутності належного захисту користувачів. Представник компанії Дрю Пусатері заявив, що ChatGPT уже має спеціальні механізми безпеки для різних вікових груп, зокрема батьківський контроль, нагадування про перерви та додаткові обмеження для неповнолітніх.
У компанії визнають, що жодна система безпеки не є досконалою, однак наголошують на постійному вдосконаленні захисних механізмів. OpenAI також заявила про готовність співпрацювати з американськими штатами над правилами регулювання штучного інтелекту, які застосовуватимуться до всієї галузі.
Наразі суди не встановили порушень із боку OpenAI. Подані позови лише започатковують розгляд претензій, а вимоги про штрафи та зміни продукту ще мають отримати судову оцінку.
Судові процеси посилюють регуляторні ризики для компанії та можуть вплинути на майбутні вимоги до розробників розмовних систем штучного інтелекту, особливо щодо захисту дітей, обробки персональних даних і безпечної взаємодії з користувачами.
За матеріалами: Генеральна прокуратура Айови, Генеральна прокуратура Аризони, The Guardian
