Anthropic запретит пользователям оскорблять нейросеть Claude

Компания Anthropic обновила правила использования нейросети Claude, запретив систематическое и «бессмысленное оскорбительное или жестокое поведение» по отношению к своим моделям. Новые ограничения вступят в силу 12 ноября, следует из новых правил использования нейросети.

В компании уточнили, что мера будет применяться только в крайних случаях, когда пользователь неоднократно проявляет жестокость к нейросети без видимой причины.

Согласно обновленным правилам, Claude сможет прекращать беседу, если пользователь начнет грубить. При этом Anthropic не уточнила, предусматриваются ли дополнительные санкции, включая блокировку аккаунтов. Новое ограничение не распространяется на обычное раздражение пользователей, споры с нейросетью и другие подобные ситуации.

Одновременно Anthropic расширила перечень запрещенного использования Claude. Нейросеть нельзя применять для вмешательства в выборы, распространения дезинформации о кандидатах и голосовании, выдачи себя за кандидатов или сотрудников избирательных комиссий, а также для снижения явки. Кроме того, запрещается использовать Claude для слежки за людьми без их согласия и принятия решений о задержании или привлечении людей к ответственности.

18 сентября Reuters писал, что Anthropic тайно создала биолабораторию для проведения исследований в области искусственного интеллекта (ИИ) и фармацевтики. По словам собеседников агентства, компания хочет создать лекарства, в том числе от редких и неизлечимых болезней, при помощи нейросетей. Как пишет Reuters, глава направления науки о жизни Anthropic Эрик Каудерер-Абрамс 15 сентября подтвердил наличие стартапа в этой сфере.