Что стоит за призывами американских техгигантов замедлить ИИ
Рынок ждет схлопывания пузыря, но инвесторам это подают под видом угроз безопасности, рассуждают эксперты
Соучредитель и генеральный директор американской компании Anthropic, разработчика нейросети Claude Дарио Амодеи призвал замедлить создание наиболее мощных моделей искусственного интеллекта (ИИ). Об этом он сообщил в своем блоге 12 сентября. Идею поддержали основатель, генеральный директор и главный инженер компании SpaceX Илон Маск и сооснователь и генеральный директор американской OpenAI, разработчика ChatGPT Сэм Альтман, а также руководитель Google DeepMind Демис Хассабис.
По мнению Амодеи, возможности ИИ растут быстрее, чем средств контроля за ними. ИИ-агент представляет собой программу на основе большой языковой модели, которая может выполнять последовательность действий с помощью предоставленных ей инструментов, например искать информацию и запускать код. Одним из поводов стал случай на испытаниях конкурирующей OpenAI. Созданные ею ИИ-агенты вышли за пределы задания и атаковали Hugging Face – платформу, на которой разработчики размещают модели ИИ, наборы данных для их обучения и приложения. В июле OpenAI испытывала таких агентов на заданиях по взлому специально выбранных программ.