Генеральний директор OpenAI Сем Альтман опублікував відкритий лист до громади містечка Тамблер-Рідж (Британська Колумбія), де два місяці тому сталася масова стрілянина. Очільник компанії визнав провину в тому, що правоохоронці не були вчасно попереджені про небезпечну активність підозрюваного в ChatGPT.

Що сталося?

За два місяці до трагедії OpenAI заблокувала акаунт імовірного стрільця, Джессі Ван Роотселаара. Причиною стало порушення політики використання сервісу, а саме — виявлення потенціалу до насильства в реальному світі. Однак, обмежившись лише баном, компанія не передала дані про небезпечні діалоги до поліції.

«Мені глибоко шкода, що ми не попередили правоохоронні органи про обліковий запис, який було заблоковано в червні», — написав Сем Альтман у листі. — «Я розумію, що слів ніколи не буде достатньо, але вважаю за необхідне попросити вибачення, щоб визнати ту шкоду та незворотні втрати, яких зазнала ваша громада».

Реакція влади: «Вибачень замало»

Альтман зазначив, що перед публікацією листа обговорив ситуацію з мером Тамблер-Рідж Даррілом Краковою та прем’єром Британської Колумбії Девідом Ебі. За словами Альтмана, сторони погодилися, що публічне визнання помилки було необхідним, але потребувало часу з поваги до сімей загиблих.

Прем’єр Девід Ебі, своєю чергою, висловився жорсткіше. Опублікувавши лист Альтмана у соцмережі X, він зазначив, що вибачення є «вкрай недостатніми з огляду на масштаби спустошення, якого зазнали родини загиблих».

Нові протоколи безпеки OpenAI

Цей інцидент змусив технологічного гіганта переглянути свої підходи до модерації контенту.

• Превентивні заходи: Альтман пообіцяв знайти способи запобігання подібним трагедіям у майбутньому та тісно співпрацювати з урядами всіх рівнів.

• Повідомлення про загрози: Віцепрезидентка OpenAI з глобальної політики Енн О’Лірі підтвердила, що тепер компанія буде негайно інформувати органи влади, якщо в розмовах із ChatGPT виявлятимуть «неминучі та реальні» загрози життю людей.