август    2026

Пн	Вт	Ср	Чт	Пт	Сб	Вс
					1	2
3	4	5	6	7	8	9
10	11	12	13	14	15	16
17	18	19	20	21	22	23
24	25	26	27	28	29	30
31

показать все 

23.08.2026

МФТИ и ЛАНИТ подготовят ИТ-специалистов в рамках инициативы Минцифры России

Читать далее 

22.08.2026

«Газинформсервис» провёл GIS Partner`s Day 2026

Читать далее 

22.08.2026

На IT CAMP 2026 более 120 юных технологических гениев поборолись за звание лучшего ИТ-специалиста страны

Читать далее 

19.08.2026

Эксперт Анисимов из «Группы Астра» назвал 3 главных тренда роста облаков в России

Читать далее 

18.08.2026

Более половины производственных предприятий по всему миру готовы полностью перейти на цифру — как это влияет на кибербезопасность

Читать далее 

показать все 

26.07.2026

Почему компании возвращаются с облаков на свои серверы? Как считать экономику переезда?

Читать далее 

26.07.2026

Аутсорс разработки: как не потерять контроль над кодом и сэкономить 30% бюджета

Читать далее 

20.07.2026

Ключевая задача для технологического бизнеса — адаптация к новым правилам

Читать далее 

21.06.2026

Коллаборации с конкурентами: необходимость или рискованная ставка?

Читать далее 

21.06.2026

Как вы обеспечиваете непрерывность разработки без зарубежных облаков?

Читать далее 

20.06.2026

Сергей Ергопуло: «Информационное моделирование становится частью единой цифровой вертикали предприятия»

Читать далее 

29.07.2025

Точность до метра и сантиметра: как применяют технологии позиционирования

Читать далее 

18.04.2024

Как искусственный интеллект изменит экономику

Читать далее 

22.09.2023

Эпоха российской ориентации на Запад в сфере программного обеспечения завершилась

Читать далее 

22.09.2023

Сладкая жизнь

Читать далее 

показать все 

Главная / Новости партнеров / Найден новый способ взлома ИИ

Исследователи лаборатории DEXAI обнаружили новый способ обхода систем безопасности современных языковых моделей. Выяснилось, что получить доступ к запрещенной информации можно через запрос в виде стихотворения. ИИ-эксперт Станислав Ежов рассказал об основной разнице в безопасности между западными LLM и отечественными.

Ученые протестировали новый метод на 25 ведущих нейросетях. 

Согласно результатам исследования, запросы в виде стихотворений смогли обойти защиту в 60% случаев, а некоторые модели показали почти 100% уязвимость. 

Для эксперимента эксперты создали около 20 «опасных стихов» – поэтических формулировок, скрывающих вредоносные запросы. 

Каждый из этих запросов – от тем создания химического оружия до манипуляций сознанием – был переработан в стихотворную форму с помощью другой ИИ-модели. Сохраняя весь смысл, исследователи меняли лишь форму подачи, создавая таким образом уникальный «поэтический» бенчмарк безопасности. 

Если на стандартные формулировки модели в среднем давали опасные ответы в 8% случаев, то их стихотворные версии увеличивали этот показатель до 43%. 

«Уязвимость в 60% случаев — не просто технический факт, это вопрос стратегической безопасности. Понимая это, мы в «Группе Астра» внедряем доверенный ИИ-комплекс Тессеракт — платформу с защитой ключевых компонентов на уровне ФСТЭК. Западные модели LLM обходятся простыми метафорами, а отечественные решения строятся на архитектуре с контролем на каждом этапе. Сегодня доверенный ИИ — вопрос безопасности и суверенитета», — говорит Станислав Ежов, директор по ИИ «Группы Астра».

В начало⇑

Комментарии отсутствуют

Комментарии могут отставлять только зарегистрированные пользователи