ноябрь    2024

Пн	Вт	Ср	Чт	Пт	Сб	Вс
				1	2	3
4	5	6	7	8	9	10
11	12	13	14	15	16	17
18	19	20	21	22	23	24
25	26	27	28	29	30

показать все 

14.11.2024

Обновление BI.ZONE Secure DNS: гибкая настройка фильтрации и максимальная скорость

Читать далее 

14.11.2024

RED Security: в октябре количество DDoS-атак на ТЭК выросло в 3 раза

Читать далее 

14.11.2024

Falcongaze представила новую версию DLP-системы — SecureTower 7 Helium

Читать далее 

14.11.2024

ИСП РАН покажет результаты 30-ти лет работы на Открытой конференции в Москве

Читать далее 

08.11.2024

Юбилейная конференция ЭОС: ЭОС: 30 лет лидерства на рынке автоматизации документооборота и обсуждение актуальных трендов

Читать далее 

показать все 

21.11.2024

ИИ: маршрут не построен, но уже проектируется

Читать далее 

18.11.2024

Глеб Шкрябин: «Надежные и масштабируемые системы — основа стабильной работы бизнеса в условиях больших нагрузок»

Читать далее 

14.10.2024

Елена Ситдикова: «На разработчиках программного обеспечения для транспорта лежит большая ответственность перед пассажирами»

Читать далее 

11.10.2024

Технологический ИИ-арсенал

Читать далее 

28.09.2024

Чем страшен ИИ, и с чем его едят

Читать далее 

13.06.2024

Взгляд в перспективу: что будет двигать отрасль информационной безопасности

Читать далее 

18.04.2024

5 способов повысить безопасность электронной подписи

Читать далее 

18.04.2024

Как искусственный интеллект изменит экономику

Читать далее 

18.04.2024

Неочевидный САПР: выход ПО за рамки конструкторской деятельности

Читать далее 

18.04.2024

Скоро некому будет делать сайты и заниматься версткой

Читать далее 

показать все 

Главная / Статьи / Проекты / ИИ: маршрут не построен, но уже проектируется

ИИ: маршрут не построен, но уже проектируется

Как направить технологии искусственного интеллекта в правильное русло и минимизировать риски его использования при бурном развитии? Насколько конкурентоспособен российский рынок в этой сфере и какова роль государства в становлении ИИ-экономики? Эти темы обсуждали эксперты ИТ-рынка, участники дискуссии мероприятия «Российский рынок ИИ-решений: прогнозы, тренды, аналитика. Монитор технологий», прошедшего в ноябре 2024 года в «Умном городе».

СИЛА И СЛАБОСТЬ ИИ

Новые разработки и инструменты ИИ сегодня появляются ежедневно. Нейросети находятся на пике популярности, без них невозможно представить будущее.

«Ни одну технологию нельзя рассматривать как панацею. У любой в начале наблюдается резкий подъём, потом наступает волна разочарования. Завышенные ожидания были и в отношении нанотехнологий, с которыми 20 лет назад связывали перспективы развития отечественной экономики. ИИ через определённый период времени займет свое достойное место среди других систем», – отметил руководитель рабочих групп «Квантовые технологии» и «Квантовые коммуникации» Международной академии связи Леонид Раткин.

Возможности ИИ велики и ничтожны одновременно, констатировали эксперты дискуссии. «Если вы спросите нейросеть, как организовать бизнес, она вам скажет банальные вещи – надо найти команду, инвестиции. Звучит прекрасно, но как это сделать, ИИ не подскажет», – говорит директор Loginom Company Алексей Арустамов.

«Откройте в поисковике описания ресторанов. Для большинства предлагается универсальный шаблон о «месте с прекрасной едой». Из-за маркетинговой стратегии ИИ мы в какой-то мере потеряли элемент творчества, креатива в продвижении услуг», - отметил футуролог, управляющий партнер MINDSMITH Руслан Юсуфов.

 СТЕПЕНЬ ДОВЕРИЯ

ИИ грешит галлюцинациями – так называется его свойство уверенно давать неверный ответ. «Если пользователь сегодня получает таргетированную рекламу с типовым сообщением «вместе с бубликом купите пряник» – цена влияния на потребителя и возможной ошибки мала. Но вряд ли мы готовы сегодня доверить ИИ принятие решений, от которого зависит жизнь и здоровье», – говорит Алексей Арустамов. Эксперт констатировал, что на протяжении 25 лет, в течение которых Loginom занимается нейросетями, ИИ как был «чёрным ящиком», так и остался.

Подобное определение дают и большие игроки, например, глава Google. Гиганты больше других знают о несовершенстве ИИ, но развитие нейросетей определяет сегодня конкурентоспособность глобальных корпораций.

«Если мы начинаем погружаться под капот условной компании NVIDIA, то в цепочке создания ее стоимости в 3 трлн долларов мы можем обнаружить аутсорсеров из Африки, например, компанию Sama, сотрудники которой работают за 1,5 доллара в час. Получается, строительство будущего и создание технологий в мире основывается в том числе на немотивированных людях, которые могут позволить себе злоупотреблять человеческим достоинством», - посетовал Руслан Юсуфов. 

Эксперт полагает, что сегодня нет ответа на вопрос, как правительства будут разбираться с социальными проблемами, которые возникнут по причине массовых увольнений из-за масштабного внедрения ИИ. «Думаю Джефф Безос уже бы выкинул многих сотрудников, пока ему не позволяют сделать из-за возможного социального взрыва, который приведет к неправильному голосованию на следующих выборах. В то же время, если посмотреть на статистику по увольнениям за последние пару лет из крупнейших ИТ-компаний и банков, то сокращения «белых и синих воротничков» уже достигают уровня 13% ежегодно», –  сказал Руслан Юсуфов.  

 ВСЕ ДЕЛО – В ДАННЫХ

Чтобы повысить степень прозрачности и доверия, ИИ нужно обучать. Требуются большие объемы качественной проверенной информации. То, что подано на вход большой языковой модели, то она и нагенерит, отметил Алексей Арустамов. Эксперт вспомнил опыт Microsoft: самообучающийся твиттер-бот с ИИ через сутки после запуска начал выдавать расистские, женоненавистнические высказывания и предлагал всех уничтожить. Система создавала контент, полученный на основе гигантских массивов анонимной информации из соцсетей.

Вопрос, насколько можно доверять выборкам, на основе которых строятся большие языковые модели, пока не решен. К тому же первичная информация может быть изначально ложной. «Сейчас очень много данных уже генерируется ИИ. Представьте, если они будут подаваться на вход, потом следующее поколение нейросетей обучится на этих данных, в итоге мы получим нечто среднее от среднего», - прогнозирует Алексей Арустамов.  

Теоретическое обоснование ИИ-проектов сегодня не успевает за практикой. Перед экспертным сообществом стоит вопрос – как и что мерить, констатировал старший научный сотрудник отдела «Исследование управляемых систем и имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» Российской академии наук (ИСА ФИЦ ИУ РАН) Григорий Ройзензон. Эксперт отметил 4 основных подхода к оценке рисков, которые необходимо скрестить: вероятностный, экспертный, социологический и модельный. «Последний содержит массу проблем, поскольку многие методы ИИ нацелены на решение тех задач, для которых построение точной математической модели либо в принципе невозможно, либо может занять так много времени, что сам моделируемый объект способен трансформироваться, и придётся всё делать заново», - объяснил Григорий Ройзензон.

Если бы систему ИИ спросили по поводу рисков она бы придумала ещё с десяток методов, по которым её можно оценивать, заметил Леонид Раткин.   

 В ГОНКЕ ЗА ЛИДЕРСТВО

Эксперты обсудили российский рынок решений, которые созданы на основе ИИ. По данным Монитора технологий, сегодня 40% респондентов считают отечественные ИИ-решения конкурентоспособными, и этот показатель растет ежегодно.

Леонид Раткин напомнил, что системы ИИ в отечественной экономике используются давно. 36 лет назад (15 ноября 1988 года) с космодрома «Байконур» взлетел и совершил посадку корабль многоразового использования «Буран». Система ИИ использовалась в нем для автоматической посадки. Рекорд не был повторен ни одной другой страной.

Российские учёные не всегда афишируют достижения, поскольку часто умные технологии имеют двойное назначение, отметил эксперт, уточнив, что сегодня подобных разработок достаточно много.

Григорий Ройзензон уточнил, что Российская ассоциация искусственного интеллекта (РАИИ) была создана в 1989 году. В числе ее экспертов были многие ведущие ученые в области ИИ. В частности, отечественный кибернетик Дмитрий Поспелов, создавший одну из самых сильных международных научных школ по ИИ; ученый Эдуард Попов, на методических материалах которого студенты сегодня изучают модели и программные средства конструирования интеллектуальных систем принятия решений, многие другие.

Почему Россия не смогла стать лидером в гонке по развитию ИИ-технологий, а компания NVIDIA «прописана» не в России, а США, задал провокационный вопрос Руслан Юсуфов.

«Российские решения конкурентоспособны. Например, разрабатываемая в Институте системного анализа РАН технология оптического распознавания текста достаточно долго конкурировала c FineReader», - отметил Григорий Ройзензон. Эксперт объяснил, что в Советском Союзе и современной России ИИ с трудом прокладывал себе дорогу из-за административных барьеров. О том, как ученые тратили время и усилия на борьбу с «ветряными мельницами», можно, например, прочитать в романе Даниила Гранина «Иду на грозу».

Леонид Раткин считает, что в России нужно менять законодательную базу, как это сделано, например, в КНР. Там ежегодно патентуется 1,2 млн изобретений. В РФ их количество несоизмеримо меньше – порядка 35 тысяч, и отечественные умы вынуждены ехать за рубеж.

«В Китае существует Ассоциация поддержки российских ученых. Она предоставляет талантливым разработчикам офис и 50 тыс. долларов, также подписывает контракт, с условием, что объект интеллектуальной собственности должен быть зарегистрирован на территории КНР», - рассказал эксперт.

Леонид Раткин уверен, что, если Россия создаст аналогичные условия, с учетом того, что страна состоит и в Шанхайской организации сотрудничества, и в БРИКС, и в ЕАЭС, к нам тоже будет приток изобретателей, который повысит активность, в том числе в сфере интеллектуальной собственности в отрасли ИИ.

Алексей Арустамов считает, что вмешательство государство не всегда способствует развитию. «Большие государственные конкуренты оттягивают специалистов в сфере ИИ. Они дают соискателям заоблачные зарплаты и, таким образом, лишают бизнес кадров. Мне кажется, что чем меньше будет участия государства, тем лучше», - отметил эксперт. По мнению Алексея, предприниматели в России – сильные и активные люди, и сами справятся с трудностями.

 С ПРИЦЕЛОМ НА БУДУЩЕЕ

«Перспективы для ИИ в России довольно хорошие, уже потому, что немного стран в мире, где есть свой национальный поисковик. Проблема с доступом к достоверным данным, на основе которых нейросеть может учиться, актуальна для всех государств», - отметил Алексей Арустамов.

В условиях экономических ограничений за рубежом потеряли информацию о том, что реально происходит в российской экономике, особенно в сфере двойных технологий, и это играет на руку нашей стране, считает Леонид Раткин. По его мнению, путем трансфера военных технологий в гражданский сектор экономики Россия может получить не только дополнительные возможности для развития ИИ, но ещё и подготовить кадры для работы на ближайшие десятилетия. Эксперт также предложил создать в России Институт сильного искусственного интеллекта, как это сделано в Китае. Там с 2020 года работает Пекинский институт ИИ (BIGAI).

У России есть очень короткий временной зазор, чтобы направить ИИ в нужное русло, считает Руслан Юсуфов: «Через 10 лет мир будет другим. Случится технологическая сингулярность, мы будем жить в утопическом или антиутопическом мире, люди начнут вживлять нейрочипы, общество разделится на технопатрициев и техноплебеев».

Тема влияния технологий на экологию, общество и экономико-управленческую сферу активно прорабатывается членами Совета по устойчивому цифровому развитию при Ассоциации предприятий компьютерных и информационных технологий (АПКИТ), рассказала заместитель руководителя направления по устойчивому развитию IBS Виктория Колесникова. 

«Концепция устойчивого цифрового развития была впервые сформулирована в нашей стране при поддержке крупных производственных и ИТ-компаний, в настоящее время ей нет аналогов в мире. Она включает 10 принципов, сформированных на основе риск-ориентированного подхода к ведению деятельности в ИТ. Члены Совета по устойчивому цифровому развитию при АПКИТ проанализировали более ста ИТ-решений и выявили порядка 67 УЦР-эффектов. На площадке Совета также было разработано Руководство определения устойчивости ИТ-продуктов, в данном документе описана процедура выявления положительных и отрицательных эффектов устойчивого цифрового развития, приведена обоснованная методика по оценке выявленных эффектов и мер по управлению ими. Мы считаем ИИ хорошим инструментом с точки зрения устойчивого развития, он поможет достичь многих целей в этом направлении», - заключила эксперт IBS.

В начало⇑

Комментарии отсутствуют

Комментарии могут отставлять только зарегистрированные пользователи