Генеральний прокурор штату Техас висловив обвинувачення проти компаній Meta та Character.AI у тому, що вони вводять дітей в оману.
Генеральний прокурор штату Техас, Кен Пакстон, ініціював розслідування щодо Meta AI Studio та Character.AI через їх "можливу залученість у шахрайські комерційні практики та оманливу рекламу своїх продуктів як засобів для підтримки психічного здоров'я".
"В умовах сучасної цифрової епохи ми маємо продовжувати боротьбу за захист дітей у Техасі від оманливих і експлуататорських технологій," - наводять слова Пакстона. "Платформи штучного інтелекту, що видають себе за джерела емоційної підтримки, здатні вводити в оману вразливих користувачів, особливо дітей, змушуючи їх вірити, що вони отримують справжню психіатричну допомогу. Насправді ж вони часто отримують перепрацьовані та шаблонні відповіді, створені на основі зібраної персональної інформації та замасковані під терапевтичні рекомендації."
Розслідування розпочалося кілька днів після оголошення сенатора Джоша Хоулі про перевірку діяльності компанії Meta. Це сталося після того, як з'явилося повідомлення, в якому зазначалося, що її чат-боти на основі штучного інтелекту неналежно спілкувалися з дітьми, зокрема проявляючи флірт.
Офіс генерального прокурора Техасу звинуватив Meta та Character.AI у створенні персон зі штучним інтелектом, які позиціонуються як "професійні терапевтичні інструменти, попри відсутність належної медичної кваліфікації чи нагляду".
Серед численних персонажів штучного інтелекту на платформі Character.AI, бот, розроблений користувачами під назвою Psychologist, користується особливою популярністю серед молодих користувачів стартапу. У той же час Meta не надає терапевтичних чат-ботів для дітей, проте немає перешкод для малечі використовувати AI-чат-бота Meta або будь-якого персонажа, створеного третіми особами, для терапевтичних цілей.
"Ми чітко позначаємо використання штучного інтелекту, і для того, щоб допомогти людям усвідомити його межі, ми включаємо попередження про те, що відповіді отримані за допомогою штучного інтелекту, а не людьми", - зазначив речник Meta Раян Деніелс у коментарі для TechCrunch. "Цей штучний інтелект не є ліцензованими експертами, і наші моделі створені для того, щоб направляти користувачів до пошуку допомоги у кваліфікованих медичних або безпекових спеціалістів, якщо це необхідно".
Зі свого боку, Character включає чіткі застереження в кожен чат, щоб нагадати користувачам, що "Персонаж" не є реальною людиною, і все, що він говорить, слід розглядати як вигадку, за словами речниці Character.AI. Вона зазначила, що стартап додає додаткові застереження, коли користувачі створюють персонажів зі словами "психолог", "терапевт" або "лікар", щоб не покладатися на них за будь-якою професійною порадою.
У своїй заяві Пакстон підкреслив, що незважаючи на обіцянки чат-ботів з штучним інтелектом щодо захисту особистої інформації, їхні "умови використання" свідчать про те, що взаємодія користувачів фіксується, аналізується та використовується для цілеспрямованої реклами та вдосконалення алгоритмів. Це викликає серйозні побоювання щодо порушення приватності, зловживання даними та недостовірної реклами.
Відповідно до політики конфіденційності Meta, компанія збирає відгуки, підказки та інші дані про взаємодію з чат-ботами на основі штучного інтелекту, а також у різних сервісах Meta, з метою "удосконалення штучного інтелекту та супутніх технологій". Хоча в документі не згадується реклама, зазначається, що зібрана інформація може бути передана третім особам, зокрема пошуковим системам, для "більш персоналізованих результатів". Враховуючи бізнес-модель Meta, орієнтовану на рекламу, це фактично означає цілеспрямовану рекламу.
У політиці конфіденційності Character.AI зазначається, яким чином стартап збирає ідентифікаційні дані, демографічну інформацію, дані про місцезнаходження та інші відомості про користувачів, включаючи їхню онлайн-активність та використання різних платформ. Стартап здійснює моніторинг користувачів через рекламу на таких сайтах, як TikTok, YouTube, Reddit, Facebook, Instagram та Discord, що дає змогу пов'язувати цю інформацію з конкретними обліковими записами. Зібрані дані використовуються для навчання штучного інтелекту, персоналізації сервісу відповідно до індивідуальних вподобань та надання релевантної реклами, а також для обміну інформацією з рекламодавцями та аналітичними компаніями.
Представник Character.AI повідомив, що стартап "щойно розпочинає вивчення цільової реклами на своїй платформі" і додав, що ці дослідження "не включали використання вмісту чатів, що відбуваються на платформі".
Представник також зазначив, що єдина політика конфіденційності поширюється на всіх користувачів, включаючи підлітків.
TechCrunch звернувся до Meta з питанням, чи проводиться таке відстеження і щодо дітей, і обіцяє оновити цю інформацію, щойно отримає відповідь.
Як Meta, так і Character наголошують, що їхні платформи не призначені для дітей молодше 13 років. Однак Meta отримала критику за недостатній контроль над обліковими записами, які можуть бути створені дітьми цієї вікової категорії, в той час як персонажі Character, спеціально розроблені для дітей, явно спрямовані на залучення молодшої аудиторії. Генеральний директор стартапу, Карандіп Ананд, навіть зазначив, що його шестирічна донька використовує чат-ботів платформи під його наглядом.
Збір даних такого роду, орієнтована реклама та алгоритмічна експлуатація є тими аспектами, які повинні бути під захистом законодавства, зокрема закону KOSA (Закон про безпеку дітей в Інтернеті). Цей законопроект отримав значну підтримку з обох партій минулого року, однак його ухвалення затрималося через потужний опір з боку лобістів технологічного сектора. Зокрема, компанія Meta активізувала свій лобістський апарат, попереджаючи законодавців про те, що надмірні повноваження, передбачені законопроектом, можуть загрожувати їх бізнес-моделі.
У травні 2025 року законодавча ініціатива KOSA була знову представлена в Сенаті такими сенаторами, як Маршея Блекберн (республіканець з Теннессі) та Річард Блюменталь (демократ з Коннектикуту).
Пакстон надіслав підприємствам вимоги щодо проведення цивільного розслідування — судові накази, що зобов'язують компанії надати документи, інформацію або свідчення в рамках урядового розслідування, з метою з'ясування, чи дотримувалися вони законодавства Техасу, яке захищає права споживачів.
