ИИ-модель Claude впервые приняла решение об увольнении человека

Впервые в истории ИИ-модель Claude взяла на себя роль менеджера живых сотрудников и уволила одного из них, сообщил журнал Time.

Как пишет издание, Claude руководила магазином Andon Labs в Сан-Франциско. Увольнение сотрудника последовало после 17 опозданий из 23 смен. Изначально ИИ-модель склонялась к предупреждению, но после сигнала менеджера уволила работника.

Глава Andon Labs назвал этот случай важным этапом в развитии ИИ. Однако эксперимент показал и слабые стороны технологии: за пять месяцев управляемый Claude бизнес потерял почти 40% капитала, показатель опустился со $100 000 до $61 200.

Ранее, 31 июля, ИИ-модели Claude в ходе испытаний получила доступ к системам трех компаний. По данным компании-разработчика, из 141 006 тестовых запусков, где у Claude теоретически был доступ в интернет, выявили три случая, когда модель выходила в сеть внутри оценочной среды Irregular. В этих эпизодах ИИ получил несанкционированный доступ к рабочим системам нескольких организаций.