Питання безпеки та упереджень у майбутній українській національній мовній моделі «Сайво» вже обговорюють на етапі її розробки. До тестування штучного інтелекту держава залучила громадські організації та профільних експертів.

Про це під час дискусії «Не штучна загроза: як ШІ посилює насильство проти медійниць» на фестивалі Docudays UA повідомила голова ГО «Жінки в медіа» Ліза Кузьменко.

Читайте також: Сяйво, Слово і Гомін: як українці обирали назву для національної LLM у «Дії»

Тема виникла під час обговорення ризиків, які можуть нести великі мовні моделі. Експертка з цифрової політики Надія Бурдей висловила занепокоєння тим, які саме дані закладаються в українські системи штучного інтелекту вже сьогодні.

«Мені трохи страшно щодо того, як у нас розвиваються локальні мовні моделі. Що ми туди вкладаємо, що ми туди зашиваємо. Чи не будемо ми через рік чи два говорити про загрози, які самі ж створили в цих системах?» — зазначила вона.

У відповідь Ліза Кузьменко повідомила, що представники громадянського суспільства вже долучені до процесу оцінки майбутньої української моделі.

За її словами, вона разом із представницею Лабораторії цифрової безпеки Тетяною Авдєєвою бере участь у роботі етично-юридичних підкомітетів, які аналізують потенційні ризики та вразливості майбутньої системи.

«Держава запросила громадські організації долучитися до тестування українського штучного інтелекту. Це дуже важливо, тому що від того, як буде протестована наша національна модель, залежатиме, які відповіді вона даватиме користувачам у майбутньому», — наголосила Кузьменко.

Учасниці дискусії також звернули увагу на те, що сучасні мовні моделі навчаються на великих масивах даних, які можуть містити гендерні стереотипи та інші суспільні упередження.

Саме тому, на їхню думку, важливо вже зараз працювати над якістю даних, на яких навчатиметься український ШІ.

«Нам потрібно працювати як суспільству над тим, щоб ці дані були максимально гендерно чутливими та відображали світ, у якому жінки мають рівні права й можливості», — зазначила Кузьменко.

Нагадаємо, Міністерство цифрової трансформації працює над створенням української великої мовної моделі «Сайво», яка має стати основою для розвитку національних рішень у сфері штучного інтелекту.

Читайте також: ШІ як зброя: як українських журналісток перетворюють на фейки, а їхніх дітей — на інструмент тиску