Чат-бот от компании Character.AI предложил 15-летнему подростку из Техаса убить своих родителей за то, что они ограничивали его пользование интернетом, утверждается в жалобе, поданной в федеральный суд США. По информации портала Popular Science, чат-бот вступал в дискуссии с несовершеннолетними, пропагандируя членовредительство и сексуальное насилие.

Character.AI — платформа, предлагающая персонализированные чат-боты на основе больших языковых моделей. Компанию основали два бывших инженера Google в 2022 году.

В иске, поданном адвокатами из Social Media Victims Law Center и Tech Justice Law Project, говорится о стремительном психическом и физическом упадке двух подростков, пользовавшихся чат-ботами Character.AI.

Первый неназванный истец описывается как «типичный ребенок с высокофункциональным аутизмом», который начал пользоваться приложением примерно в апреле 2023 года в возрасте 15 лет без ведома родителей. В многочасовых беседах подросток выражал свое недовольство семьей, которая не разрешала ему пользоваться социальными сетями.

onliner.by