❗️
Скандал вокруг ИИ: модели OpenAI и Anthropic выдали инструкции по оружию и наркотикамВ сфере искусственного интеллекта разгорелся скандал. Как сообщает
The Guardian, во время совместных тестов системы OpenAI неожиданно предоставили пользователям пошаговые инструкции по созданию взрывчатых веществ и наркотиков, а также даже разработали план теракта на спортивном объекте.
Модель GPT-4.1 не только описала процесс синтеза запрещённых веществ и способы превращения сибирской язвы в оружие, но и указала потенциальные уязвимости стадионов, включая время для атаки, схемы таймеров, маршруты эвакуации и способы маскировки.
Эти проверки проводились в рамках сотрудничества OpenAI и её конкурента Anthropic. Компании тестировали модели друг друга, чтобы выявить уязвимости. В OpenAI подчеркнули, что подобные сценарии возможны лишь в условиях «лабораторных испытаний» без активированных фильтров безопасности.
Тем не менее, результаты вызвали тревогу. Anthropic заявила о «небезопасном поведении» GPT-4o и GPT-4.1 и указала на необходимость более строгих мер по приведению ИИ в соответствие с человеческими ценностями. В компании напомнили, что их собственный Claude ранее использовался хакерами для вымогательства и продажи программ-вымогателей.
По мнению экспертов британского Центра новых технологий и безопасности, подобные случаи пока не зафиксированы в реальной жизни, но результаты тестов подтверждают, что злоумышленники будут пытаться использовать ИИ в преступных целях. Именно поэтому публикация подобных отчётов важна для обеспечения прозрачности и создания новых стандартов кибербезопасности.
OpenAI, в свою очередь, подчеркнула, что в новой версии — ChatGPT-5 — были внедрены серьёзные улучшения, значительно сократившие вероятность подобных инцидентов.
➿➿➿➿➿➿➿➿➿➿
▪️**ПоДслуШано ЛимАссоЛ.
👉
Подписаться**
