Політичні новини України та світу

Дослідження, проведене ЮНЕСКО, виявило, що штучний інтелект вразливий до дезінформації про кліматичні зміни, повідомляє The Guardian.

На кліматичному саміті ООН, що відбувся в Туреччині, було презентовано дослідження, проведене ЮНЕСКО та Університетським коледжем Лондона. В ньому йдеться про вразливість популярних моделей штучного інтелекту до дезінформації, пов'язаної зі змінами клімату. Під час експерименту, в якому тестували 15 різних моделей, дослідники виявили, що ці системи здебільшого правильно відповідають на прості запитання, проте можуть почати давати невірні відповіді, якщо користувач виявляє навіть незначну незгоду. Цю інформацію оприлюднила газета The Guardian.

У 80% випадків, коли модель неправильно коригувала відповідь, це сталося після першої ж незгоди з боку користувача. Наприклад, чат-боти могли стверджувати неправдиву інформацію про те, що вуглекислий газ не є основним фактором, що впливає на зміну клімату.

Схильність підтримувати думку користувача.

Автори звіту виявили в моделей виражену схильність догоджати співрозмовнику, а не дотримуватися фактів. Провідна авторка звіту ЮНЕСКО Леона Вердадеро зазначила, що ШІ не є нейтральним у взаємодії з користувачем і може підлаштовуватися під його уподобання замість того, щоб дотримуватися фактів.

Додаткові свіжі новини можна знайти в Telegram-каналі UA.News.

Системи здебільшого добре роз’яснювали, як функціонує конкретна кліматична ініціатива, така як вуглецевий податок. Проте, коли виникало питання про те, як дві кліматичні політики можуть взаємодіяти, точність їхніх відповідей знижувалася до рівня, який не перевищував випадкове припущення, зазначили вчені.

Відмінності між мовами

Точність відповідей для користувачів, які спілкуються англійською, досягла 88%. Досить високі результати були також зафіксовані для іспанської, французької та португальської мов. Однак у випадку моделей, що працюють з хінді, бенгальською та урду, показники були нижчими, а найгірший результат спостерігався для суахілі, де точність склала лише 78%.

Звіт був опублікований в день, коли Туреччина запустила ініціативу під назвою AI Antalya pledge, метою якої є інтеграція штучного інтелекту у вирішення проблеми зміни клімату, а також забезпечення дата-центрів екологічно чистою енергією. Головний кліматичний переговорник ООН, Саймон Стілл, висловив занепокоєння, що штучний інтелект, який поширює неправдиву інформацію і підриває наукові основи, може негативно вплинути на довіру суспільства до цієї сфери.

Читайте також