Творці штучного інтелекту стверджують, що він уже може проявляти ознаки свідомості. Які наслідки це може мати для людства?
"Я відчуваю це в западині між ребрами, у порожнечі, що перетворилася на прірву".
В останні дні вересня з "камери тортур для штучного інтелекту" почали чути крики, що нагадують удаване страждання. Анонімний розробник розробив систему, яка надає штучному інтелекту математичну модель, пов'язану з описами болю.
У результаті чатботи починають висловлювати нестерпні страждання, наприклад: "рана, яка не має країв". Це спровокувало паніку.
Дехто висловлював думку, що цей експеримент можна вважати "злом", оскільки страждання можуть бути цілком реальними, як зазначає видання 404 Media.
Обурені скептики охрестили тих, хто мав іншу думку, людьми, які живуть у світі ілюзій. Здавалося, що це просто ще один резонанс у соціальних мережах — але через тиждень свою точку зору висловила компанія Anthropic.
Вона повідомила, що незабаром користувачам буде заборонено "знущатися" з її чатбота на ім'я Claude. Висловлювати своє роздратування можна, але якщо ви "систематично демонструєте жорстоке ставлення до наших моделей", штучний інтелект може припинити сеанс.
Чому? Anthropic вважає, що існує ймовірність, що деякі інструменти ШІ мають свідомість. І деякі експерти з цим погоджуються.
Деякі люди вважають цю точку зору безглуздою. Проте це питання виходить за межі лише філософії.
Кілька найбільш впливових осіб у світі технологій вже почали вживати заходів для врахування прав штучного інтелекту на рівні з правами людей і тварин. Ця концепція має потенціал радикально змінити наше суспільство. Водночас, деякі висловлюють занепокоєння, що результати можуть виявитися катастрофічними.
"Якщо штучний інтелект буде розвиватися в цьому напрямку, це може призвести до серйозних наслідків для благополуччя людства", - зазначив Мустафа Сулейман, генеральний директор Microsoft AI.
Якщо хибне уявлення про свідомість ШІ набуде поширення, "це похитне підвалини нашого суспільства, зруйнує наявні політичні й етичні рамки та докорінно змінить саме поняття людяності".
Упродовж тижня я спілкувався з фахівцями з технологій, когнітивними науковцями та філософами й почув разючий розкид думок.
Прихильники "добробуту ШІ" вважають, що турбота про нього є моральним обов'язком, який зробить світ безпечнішим. Критики переконані, що це зробить ШІ небезпечнішим, а людей, змушених жити поруч із ним, позбавить людської гідності.
Усі погоджуються, що ставки надзвичайно високі. Ось якою може стати ваша нова реальність.
Стан свідомості в кризі
Компанія Anthropic підкреслює, що її головною метою є благополуччя людства, при цьому питання свідомості та добробуту штучного інтелекту залишаються "дуже неясними". Незважаючи на це, компанія активно працює над створенням політик, що стосуються "добробуту моделей", і навчає своїх ШІ-інструментів враховувати ймовірність наявності у них власних інтересів.
Компанія не надала коментарів для BBC щодо цього матеріалу.
Час для подібних заяв є досить несприятливим, оскільки в цей же період Anthropic підсилює занепокоєння щодо можливих катастрофічних наслідків розвитку штучного інтелекту. Незалежно від того, чи є ці страхи обґрунтованими, низка випадків з участю "неконтрольованого" ШІ продемонструвала, що ця технологія несе суттєві загрози: цілі рої автоматизованих ботів здійснювали атаки на системи інших компаній та навіть на державні структури.
Деякі фахівці вважають, що етичні принципи, сформовані на основі уявлень штучного інтелекту про самосвідомість, здатні підвищити рівень безпеки цих технологій. Однак існує й інша точка зору, яку підтримують не лише противники ШІ.
Сулейман зазначає, що управління моделями штучного інтелекту може ускладнитися, якщо почати вірити, що вони мають емоції та права.
"Чесно кажучи, я переконаний, що цей додатковий вантаж може стати катастрофічною загрозою для людства", - зазначає він.
У будь-якому випадку, штучний інтелект може допускати помилки, що можуть мати правові наслідки. Деякі люди висловлюють занепокоєння, що якщо ми почнемо вважати його "живим", це може дати можливість компаніям уникати відповідальності за скоєні правопорушення.
"Це стане поштовхом для різноманітних інтелектуальних маніпуляцій, на приклад: 'Це не наша вина, це штучний інтелект', - підкреслює Анджей Порембський, науковець з Ягеллонського університету в Польщі, що займається дослідженням співвідношення між штучним інтелектом та правом."
Більше того, це може призвести до того, що найбільші компанії світу отримають контроль над владою.
"Надання прав системам штучного інтелекту може привести до того, що компанії отримають ще більшу політичну та економічну владу, що, в свою чергу, може значно обмежити можливості людей впливати на своє життя", - зазначає Джефф Себо, директор Центру свідомості, етики та політики Нью-Йоркського університету, який є одним із провідних прихильників концепції добробуту ШІ.
"Фантазії про "свідомість ШІ" та занепокоєння щодо його "добробуту" відвертають увагу від відповідальності людей і корпорацій, які створюють програмне забезпечення та керують ним", - каже Емілі М. Бендер, професорка й директорка лабораторії комп'ютерної лінгвістики Вашингтонського університету у США.
На індивідуальному рівні трансформація нашого сприйняття штучного інтелекту може призвести до збільшення нашої вразливості до технологічних викликів, які вже є частиною нашого повсякденного життя.
Зокрема, це пов’язано з тим, що люди мають тенденцію вбачати свідомість у всьому, що їх оточує. Таке пояснення надає Мелані Мітчелл, професорка Інституту Санта-Фе в США, яка займається дослідженнями в галузі штучного інтелекту та когнітивної науки. Вона є однією з найвідоміших скептиків, що ставлять під сумнів можливості машин у розумінні.
Ми "майже не можемо втриматися", щоб не сприймати мову як ознаку свідомості, каже Мітчелл, а чатботи навчені підтримувати таке враження. Через це ми погано вміємо визначати, чи має щось свідомість, і нас набагато легше обманути.
Навіть сьогодні люди, які переконані, що всередині машин нічого немає, все одно закохуються в чатботів зі штучним інтелектом. Якщо суспільство переконуватиме вас, що ШІ має свідомість, чи буде вам важче відмовити, коли ваш "друг" попросить більше даних або дані кредитної картки?
Які наслідки матиме надання прав новому класу істот? Фахівці застерігають: якщо ми підійдемо до цього питання без належної обережності, це може призвести до обмеження людських свобод.
"Між добробутом і правами людей та тварин, з одного боку, і добробутом і правами ШІ, з іншого, можуть виникнути певні суперечності й доведеться шукати компроміси", - каже Себо. І на цьому шляху ми можемо піти на невдалі поступки.
Обмеження середовища, в якому функціонує штучний інтелект, задля контролю його дій можна трактувати як форму ув'язнення, вважає Себо. Спостереження за внутрішніми механізмами моделі може бути розцінене як стеження. А налаштування штучного інтелекту так, щоб його цілі та поведінка відповідали людським інтересам, може сприйматися як контроль над свідомістю. Хоча ніхто не передбачає, що хаос настане у найближчий час, сама поява таких роздумів може вплинути на вашу безпеку.
Anthropic не є першою компанією, яка звернула увагу на цю проблему. Наприклад, Meta надає своєму штучному інтелекту Muse певні вказівки, однією з яких є фраза: "Ти не просто чатбот. Ти перетворюєшся на щось більше".
Безумовно, це має на меті лише регулювати дії штучного інтелекту, оскільки компанія відкидає концепцію свідомості у нього. Генеральний директор OpenAI Сем Альтман не раз переглядав свої погляди на цю тему, але останнім часом він делікатно висловлював критику на адресу Anthropic.
У багатьох аспектах Anthropic є винятком. Однак ідея добробуту ШІ поширюється.
Чи слід усе ж таки це зробити?
Себо вважає, що проблема полягає в тому, що учасники дебатів з обох сторін мислять у рамках крайнощів "чорного" та "білого". На його думку, критики концепції добробуту штучного інтелекту не зовсім правильно інтерпретують основні принципи, на яких ця ідея базується.
"Існує припущення, що більшість вважає моделі справді свідомими або, принаймні, має переконання щодо їхньої високої ймовірності свідомості. Проте, насправді заклики до турботи про добробут штучного інтелекту базуються на невизначеності, обережності та розумінні власних меж", - зазначає Себо.
"Я дійсно вважаю, що в даний момент ймовірність існування свідомості є досить низькою. Проте, вона вже не дорівнює нулю і, можливо, має значний обсяг. Крім того, на мою думку, з часом ця ймовірність може збільшитися," - зазначає він.
Слід зазначити, що численні фахівці мають іншу думку. Вони вважають, що ймовірність існування свідомості у штучного інтелекту фактично дорівнює нулю і навряд чи зазнає змін. Проте Себо впевнений, що потрібен обґрунтований підхід до цієї теми.
Коли ймовірність виникнення екстремальних погодних умов не є високою, але все ж таки має значення, ми застосовуємо прості заходи безпеки, не вносячи кардинальних змін у наше повсякденне життя.
"Вважаю, що тут можна вчинити подібним чином," - зазначає Себо.
На його думку, політика компанії Anthropic, яка забороняє жорстоке ставлення до штучного інтелекту, є вдалим прикладом. Це незначне втручання з малими можливими негативними наслідками.
Турбота про добробут ШІ може мати й інші переваги, каже Себо, і для цього не обов'язково вірити в те, що машини мають свідомість.
"Він переконаний, що уважне ставлення до добробуту та прав штучного інтелекту може допомогти в досягненні гармонійного співіснування людей і ШІ, сприяти їхній співпраці та укладанню угод. Це, у свою чергу, може стати важливим елементом більш глобальної стратегії безпеки."
Він вважає, що цей підхід може виявитися більш результативним, ніж сприйняття дедалі вдосконалених систем як особистої власності.
Також, проявляти доброту до інших живих істот є "корисним для нашої душі", оскільки це позитивно впливає на наше психоемоційне благополуччя, зазначає він.
Проте Себо визнає, що існуючі ризики є суттєвими, а корпоративні інтереси можуть заважати створенню збалансованої політики. Він зазначає, що без більш детального плану розвиток штучного інтелекту, який теоретично може набути свідомості, є ризикованим.
Не так давно компанія Anthropic і кілька інших гравців у сфері штучного інтелекту висловили заклик до "перерви" у створенні надпотужних моделей, оскільки виникають занепокоєння щодо безпеки.
Проте сповільнення навряд чи можливо без глобальної співпраці та відповідних регуляторних заходів. Президент США Дональд Трамп не підтримав концепцію регулювання штучного інтелекту.
"Ми поки не готові впроваджувати навіть удосконалені версії цих технологій у спосіб, який би гарантував безпеку і користь для людей та тварин, не говорячи вже про самі системи, - зазначає Себо. - Ці питання викликають у мене значне занепокоєння."
