декабрь    2024

Пн	Вт	Ср	Чт	Пт	Сб	Вс
						1
2	3	4	5	6	7	8
9	10	11	12	13	14	15
16	17	18	19	20	21	22
23	24	25	26	27	28	29
30	31

показать все 

29.11.2024

Сайберус создает новую ИБ-компанию на основе технологий и экспертизы F.A.C.C.T.

Читать далее 

29.11.2024

ГК InfoWatch представила новую версию InfoWatch ARMA Стена (NGFW) 4.4.

Читать далее 

29.11.2024

ARinteg про архиватор ARZip: что изменилось в функционале и интерфейсе?

Читать далее 

29.11.2024

Avanpost представляет бесплатную и промышленную версии службы каталогов Avanpost DS

Читать далее 

29.11.2024

Новая версия «Блокхост-Сеть 4»: решение для импортозамещения

Читать далее 

показать все 

22.11.2024

Тандем технологий – драйвер инноваций.

Читать далее 

21.11.2024

ИИ: маршрут не построен, но уже проектируется

Читать далее 

18.11.2024

Глеб Шкрябин: «Надежные и масштабируемые системы — основа стабильной работы бизнеса в условиях больших нагрузок»

Читать далее 

14.10.2024

Елена Ситдикова: «На разработчиках программного обеспечения для транспорта лежит большая ответственность перед пассажирами»

Читать далее 

11.10.2024

Технологический ИИ-арсенал

Читать далее 

13.06.2024

Взгляд в перспективу: что будет двигать отрасль информационной безопасности

Читать далее 

18.04.2024

5 способов повысить безопасность электронной подписи

Читать далее 

18.04.2024

Как искусственный интеллект изменит экономику

Читать далее 

18.04.2024

Неочевидный САПР: выход ПО за рамки конструкторской деятельности

Читать далее 

18.04.2024

Скоро некому будет делать сайты и заниматься версткой

Читать далее 

показать все 

Главная / Архив номеров / 2017 / Выпуск №06 (69) / Сергей Уласень: «Я не уверен, что контроль и ограничения в области разработок ИИ технически возможны»

Рубрика: Тема номера /  Искусственный интеллект

Сергей Уласень:
«Я не уверен, что контроль и ограничения в области разработок ИИ технически возможны»

Сделают ли технологии ИИ более безопасным мир людей? Чему нас научит машинный разум?

На вопросы «БИТа» отвечает директор Acronis по разработке

– Как, на ваш взгляд, искусственный интеллект (ИИ) может повлиять на нашу жизнь?

– Однозначно можно сказать, что ИИ уже серьезно влияет на нашу с вами жизнь. Начнем с того, что меняются профессии и навыки, необходимые для работы. К примеру, совсем недавно, выступая на лекции в Балтийском федеральном университете имени Иммануила Канта, Герман Греф подчеркнул, что в 2016 году в Сбербанке были уволены 450 юристов, занимавшихся подготовкой исков, так как в настоящее время эту функцию эффективно выполняет нейронная сеть банка. Данная история является очень хорошей иллюстрацией того, что сегодня каждому специалисту необходимо не только развивать навыки в ногу со временем, но и разбираться в новых технологиях и внедрять их в свои рабочие процессы.

Если говорить про серьезные технологические изменения, то скорее всего привычные нам устройства и способы взаимодействия с электроникой, вроде клавиатуры или мышки, будут заменены на системы распознавания жестов или нейроинтерфейсы. Например, уже сейчас в современных автомобилях некоторые команды в бортовой системе мультимедиа могут отдаваться жестами. Только представьте: взмах руки – и сменился трек, еще один – и прибавилась громкость. А в будущем мы сможем управлять компьютером «силой мысли», вводить текст, отправлять почту и выполнять другие нужные нам действия.

Подобные технологические изменения не обойдут стороной и такую активно развивающуюся область, как робототехника. В скором времени появится больше каналов общения и передачи информации между человеком и роботом. Сегодня активно развивается распознавание речи.

Следующим уровнем развития каналов общения человека с компьютером станет распознавание эмоций. Скорее всего появятся новые каналы взаимодействия с роботами, ведь только звукового канала общения недостаточно. Чтобы определить правильность или неправильность своих действий, роботу будет очень полезно видеть человека и распознавать его эмоции.

Например, если робот, начиная выполнять команду, увидит удивление или испуг на лице пользователя, он поймет, что что-то не так, и уточнит команду, задав вопрос «правильно ли я понял?».

– Что из привычных нам вещей или процессов так сильно изменится под влиянием ИИ, что следующие поколения даже не смогут понять, что это, как работает и зачем вообще нужно. Например, как пейджер для поколения 2000-х – совсем пустой звук.

– В будущем скорее всего изменится привычный нам форм-фактор телефона. Если мы будем иметь новый канал общения с компьютером – нейроинтерфейс или распознавание речи и взгляда, то носить в кармане привычную телефонную трубку больше не будет необходимости. Телефон, например, может быть встроен в часы, экран которых будет проецироваться в виде голограммы. Но это больше связано не конкретно с ИИ, а вообще с развитием технологий.

Если говорить именно про ИИ, то его развитие изменит не столько наше общение с компьютером, сколько количество и формат информации, которую он будет получать от нас: команды с клавиатуры, речь, движения глаз, мимика и т.д.

– Как не упустить ИИ из-под контроля и нужен ли вообще такой контроль?

– Многие специалисты выступают сегодня за введение контроля за разработками в области ИИ. Многие читали заявление CEO Tesla и Spase X Илона Маска, в котором он говорил, что искусственный интеллект может стать «самым большим риском для человеческой цивилизации». Лично я не уверен, что контроль и ограничения в области разработок ИИ технически возможны. Скорее всего разработка будет идти своим чередом, а по мере возникновения проблем будут искаться пути решения.

Сейчас рано устанавливать подобный контроль в силу того, что ИИ находится на стадии своего взросления, изучения возможностей и рисков. Еще рано говорить об ограничениях. Любой инструмент может быть опасным – в зависимости от того, в чьих руках он окажется.

– А какие разработки в области ИИ ведутся сейчас? Какие есть концепции, преобладающие в мировой практике?

– Направлений очень много, и друг с другом они не всегда связаны. Наибольший прогресс сейчас достигнут в области распознавания изображений, видео и аудио. Неплохие результаты есть в обработке текстов и понимании текстов на естественном языке и в системах общения.

Если говорить про теоретическую базу, то однозначными фаворитами являются глубокое обучение (англ. deep learning) и его различные вариации, а также машинное обучение (англ. machine learning). То есть это нейронные сети различной степени сложности и машинные алгоритмы, которые позволяют обрабатывать большое количество данных. Например, Random forest, Decision table, Bayesian networks и прочие. Сами по себе они являются не нейронными сетями, а моделями, которые позволяют классифицировать данные.

Лично мне еще очень нравится обучение с подкреплением (англ. reinforcement learning). Представьте, что робот играет в игры типа шахмат или игры на приставке и учится.

Где-то он будет выигрывать, а где-то проигрывать и на основе этого формировать стратегию игры.

Например, Facebook провел одно очень интересное исследование, в рамках которого разработал игру, где роботы должны были торговаться с человеком для максимизации своей выгоды.

Игра была ограничена десятью раундами диалога. Согласно правилам, если этот лимит был превышен, вознаграждение не получала ни одна сторона. В ходе общения машины даже научились блефовать, т.е. делать ставку на предметы с низкой стоимостью, представляя их как ценный козырь.

Анализируя большие массивы данных, ИИ определял, где можно вводить других игроков в заблуждение, при этом не нарушая правил, а наоборот, выстраивая четкую стратегию. Таким образом, робот немного терял вначале, но выигрывал на большой дистанции. В этом как раз и состоит идея обучения с подкреплением – это не победа на каждом шагу, а, как в шахматах, через жертвование пешкой движение к победе.

– Развитие рынка интернета вещей несет определенные риски. Как использовать эту технологию и оставаться в безопасности?

– Вопросы обеспечения безопасности в области интернета вещей и развития ИИ кажутся почти не связанными между собой. Но это не так. Если говорить о безопасности в IoT, можно сказать, что в развитии этой области есть большие риски. Например, мы знаем, что на роутерах, сотовых телефонах, видеорегистраторах, веб-камерах и прочих устройствах почти в половине случаев не меняются установленные производителями пароли. Получается, что любой человек может войти в сеть, получить доступ к устройству и выполнить какие-либо действия. Пока речь идет о Wi-Fi-роутере в квартире, это не страшно, но, когда к интернету вещей будут подключаться устройства с исполнительными механизмами (например, включение-выключение воды/электричества), манипулирование ими может иметь серьезные последствия. И здесь ИИ может помочь изменить ситуацию в лучшую сторону за счет того, что сделает процесс управления устройствами значительно проще.

Безусловно, пользователю со своей стороны нужно обеспечить хотя бы базовые основы безопасности, следовать инструкции и менять пароль с «1234» на что-то более надежное. И, конечно, необходимо использовать решения для защиты своих данных: своевременно создавать резервные копии и хранить их в нескольких местах, например на внешнем жестком диске и в облачном хранилище Acronis True Image 2017 NG.

– Боты, которые могут служить надстройкой над интернетом вещей, – в чем их специфика? Поможет ли это как-то обезопасить мир интернета вещей?

– Если мы говорим именно про надстройку над интернетом вещей, то задача ботов состоит в том, что они упрощают контакты человека с устройствами типа конечных датчиков, охранной сигнализации и управления веб-камерой в доме.

Специфика разработки такого бота состоит в том, что общение с ним должно быть очень простым и удобным. Для этого хорошо подходит голосовое общение, как, например, с виртуальным помощником в телефоне, или общение через текстовые сообщения в мессенжерах, например через боты в Телеграме или Facebook. Такая надстройка может помочь интернету вещей как в плане безопасности, так и в плане удобства. Например, вы купили себе Wi-Fi-роутер, а бот присылает вам сообщение в Телеграм с предложением сменить пароль на что-то более надежное, чем 12345.

Говоря про безопасность интернета вещей, отмечу, что для ее обеспечения боты должны начать общаться между собой. При этом должен появиться бот, который будет аккумулировать информацию от остальных ботов. Например, в процессе разработки нового программного обеспечения мы в компании используем ботов, которые отслеживают процесс разработки, сообщают о новых версиях, ошибках и прочем. А может быть еще бот-босс, который бы контролировал остальных. Например, сообщал о том, что какой-то бот не выходит на связь или посылает сообщения аномально часто. Подобные боты будут не только агрегировать информацию из разных источников, но и сделают мир интернета вещей проще и безопаснее.

В начало⇑

Комментарии отсутствуют

Комментарии могут отставлять только зарегистрированные пользователи