В США мать подала гражданский иск против компании, создающей настраиваемый чат-бот с искусственным интеллектом для ролевых игр. Женщина утверждает, что ИИ довел ее 14-летнего сына до самоубийства, сообщает The Guardian.
Меган Гарсия рассказала, что 14-летний Сьюэлл перед смертью днем и ночью использовал продукт компании Character.ai. Он был просто очарован чат-ботом, назвал его Дейенерис Таргариен, персонажем «Игры престолов».
Подросток отправлял боту десятки сообщений в день со своего телефона и долго разговаривал с ним, закрывшись в своей комнате. В итоге все закончилось самоубийством школьника.
Меган Гарсия подала гражданский иск против Character.ai в федеральный суд Флориды. Она обвиняет компанию в халатности, причинении смерти по неосторожности и обманной торговой практике.
Истица считает, что Character.ai создала продукта, который усугубил депрессию ее сына, его смерть стала результатом чрезмерного использования продукта.
В иске отмечается, что в какой-то момент “Дейенерис” спросила Сьюэлла, не подготовил ли он план самоубийства. Парень признался, что сделал это, но не знает, принесет ли это успех или причинит ему сильную боль. И чат-бот будто бы сказал ему: “Это не причина, чтобы не доводить дело до конца”.
В своем пресс-релизе адвокаты Гарсии пишут, что компания Character.ai «сознательно разработала, эксплуатировала и продавала детям чат-бота с искусственным интеллектом, что привело к смерти молодого человека».
Мать погибшего подростка считает, что чат-бот с искусственным интеллектом охотился на ее сына, манипулировал им, чтобы он покончил с собой. «Наша семья была опустошена этой трагедией, но я выступаю, чтобы предупредить семьи об опасностях, связанных с обманчивыми, вызывающими привыкание технологиями искусственного интеллекта”, — пишет Гарсия в пресс-релизе.
Компания Character.ai написала: “Мы убиты горем в связи с трагической гибелью одного из наших пользователей и хотим выразить наши глубочайшие соболезнования его семье. Как компания, мы очень серьезно относимся к безопасности наших пользователей”.
Компания опровергла обвинения, содержащиеся в иске, пишет The Guardian.
Директор по исследованиям некоммерческой организации по защите прав потребителей Public Citizen. Рик Клейпул отметил, что технологическим компаниям, разрабатывающим чат-ботов с искусственным интеллектом, нельзя доверять самостоятельное регулирование. И они должны нести полную ответственность, если им не удается ограничить вред.
Ранее делалось много прогнозов о том, что искусственный интеллект может выйти из-под контроля, что будет опасно для человека. Они начинают сбываться?
