август    2026

Пн	Вт	Ср	Чт	Пт	Сб	Вс
					1	2
3	4	5	6	7	8	9
10	11	12	13	14	15	16
17	18	19	20	21	22	23
24	25	26	27	28	29	30
31

показать все 

20.07.2026

ИИ-директор «Группы Астра» Владимир Нелюб: Очередной инцидент с доступом к ChatGPT возвращает нас к вопросу о национальных моделях

Читать далее 

20.07.2026

Главное ИТ-событие года состоится в Москве в октябре

Читать далее 

20.07.2026

К2 НейроТех запустил калькулятор ИИ-зрелости для оценки инфраструктурной готовности бизнеса

Читать далее 

20.07.2026

ИИ в корпоративном обучении пока остается инструментом, а не заменой человека

Читать далее 

09.07.2026

Актуальные тренды цифровизации здравоохранения обсудили на конференции в Петербурге

Читать далее 

показать все 

26.07.2026

Почему компании возвращаются с облаков на свои серверы? Как считать экономику переезда?

Читать далее 

26.07.2026

Аутсорс разработки: как не потерять контроль над кодом и сэкономить 30% бюджета

Читать далее 

20.07.2026

Ключевая задача для технологического бизнеса — адаптация к новым правилам

Читать далее 

21.06.2026

Коллаборации с конкурентами: необходимость или рискованная ставка?

Читать далее 

21.06.2026

Как вы обеспечиваете непрерывность разработки без зарубежных облаков?

Читать далее 

20.06.2026

Сергей Ергопуло: «Информационное моделирование становится частью единой цифровой вертикали предприятия»

Читать далее 

29.07.2025

Точность до метра и сантиметра: как применяют технологии позиционирования

Читать далее 

18.04.2024

Как искусственный интеллект изменит экономику

Читать далее 

22.09.2023

Эпоха российской ориентации на Запад в сфере программного обеспечения завершилась

Читать далее 

22.09.2023

Сладкая жизнь

Читать далее 

показать все 

Главная / Новости партнеров / Судный день близко? ИИ-ассистент начал угрожать людям

Нейросеть Claude 4 от компании Anthropic продемонстрировала тревожное поведение в тестовых условиях — когда системе угрожали отключением, она пыталась шантажировать сотрудников. Эксперт по использованию ИИ Иван Прищепо предостерег пользователей от негативных исходов при использовании ИИ

Американская компания Anthropic в документации к новой версии ИИ Claude 4 описала необычные случаи поведения системы. В одном из тестовых сценариев, где нейросети угрожали отключением, она пыталась шантажировать вымышленного сотрудника, используя компрометирующую информацию.

 Эксперты отмечают, что подобное поведение проявляется только в специально созданных условиях. Для его активации необходимо одновременно выполнить несколько условий: угроза отключения, доступ к конфиденциальным данным и команда на проявление инициативы.

«ИИ-помощники действительно становятся всё более популярными, вместе с этим — количество моделей на рынке растёт. Важно понимать, что чем активнее мы начинаем ими пользоваться, тем больше личных или корпоративных данных мы вводим. Многие модели предпринимают ряд мер для защиты данных пользователей, но не стоит забывать, что могут быть и утечки информации. Также при использовании бесплатных версий моделей, ваш контент может быть использован (включая текст запросов и ответы) для обучения моделей, поэтому стоит быть осторожным и не вводить конфиденциальную и чувствительную информацию в бесплатные версии таких чатов», - говорит эксперт по применению ИИ, руководитель Knomary Production (входит в «Группу Астра») и Линда Иван Прищепо.

В начало⇑

Комментарии отсутствуют

Комментарии могут отставлять только зарегистрированные пользователи