Поиск по сайту
 bit.samag.ru     Web
Рассылка Subscribe.ru
подписаться письмом
Вход в систему
 Запомнить меня
Регистрация
Забыли пароль?
Календарь мероприятий
ноябрь    2017
Пн
Вт
Ср
Чт
Пт
Сб
Вс
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

показать все 

Новости партнеров

23.11.2017

«В новом году криптоиндустрию ждут новые рекорды». В столице России прошла Blockchain & Bitcoin Conference Moscow «Криптоиндустрию ждут новые рекорды». О чем говорили участники Blockchain & Bitcoin Conference Moscow Криптовалюты в России

Читать далее 

23.11.2017

Лучшие инновационные кейсы представят на Красной Поляне 7-8 декабря

Читать далее 

23.11.2017

Горячая линия Рунета приняла критическое число обращений с жалобой на “Мегафон”

Читать далее 

23.11.2017

Открылся 10-й юбилейный форум All-over-IP 2017. Приходите!

Читать далее 

23.11.2017

В Сокольниках продолжает свою работу 10-й юбилейный форум All-over-IP 2017. Приходите — мы будем Вам рады!

Читать далее 

23.11.2017

Получены сертификаты соответствия ФСБ России на ряд продуктов Dr.Web

Читать далее 

23.11.2017

17 и 18 ноября 2017 года в выставочном комплексе Ленэкспо состоялся ежегодный Санкт-Петербургский образовательный Форум

Читать далее 

показать все 

Статьи

14.11.2017

Опрос. Как вам шеринг?

Читать далее 

14.11.2017

Опрос. ИИ: вера сильнее страха?

Читать далее 

14.11.2017

Опрос. Что вас напрягает?

Читать далее 

14.11.2017

Виртуальная реальность – психоз или инструмент поглощения информации будущего?

Читать далее 

14.11.2017

Послевкусие от переговоров

Читать далее 

21.04.2017

Язык цифр или внутренний голос?

Читать далее 

16.04.2017

Планы – ничто, планирование – все. Только 22% компаний довольны своими инструментами для бизнес-планирования

Читать далее 

16.04.2017

Цифровизация экономики

Читать далее 

23.03.2017

Сервисная компания – фея или Золушка?

Читать далее 

17.02.2017

Информационные технологии-2017

Читать далее 

показать все 

Сергей Уласень: «Я не уверен, что контроль и ограничения в области разработок ИИ технически возможны»

Главная / Интервью / Сергей Уласень: «Я не уверен, что контроль и ограничения в области разработок ИИ технически возможны»


Сергей Уласень:
«Я не уверен, что контроль и ограничения в области разработок ИИ технически возможны»

Сделают ли технологии ИИ более безопасным мир людей? Чему нас научит машинный разум?

На вопросы «БИТа» отвечает директор Acronis по разработке

Сергей Уласень– Как, на ваш взгляд, искусственный интеллект (ИИ) может повлиять на нашу жизнь?

– Однозначно можно сказать, что ИИ уже серьезно влияет на нашу с вами жизнь. Начнем с того, что меняются профессии и навыки, необходимые для работы. К примеру, совсем недавно, выступая на лекции в Балтийском федеральном университете имени Иммануила Канта, Герман Греф подчеркнул, что в 2016 году в Сбербанке были уволены 450 юристов, занимавшихся подготовкой исков, так как в настоящее время эту функцию эффективно выполняет нейронная сеть банка. Данная история является очень хорошей иллюстрацией того, что сегодня каждому специалисту необходимо не только развивать навыки в ногу со временем, но и разбираться в новых технологиях и внедрять их в свои рабочие процессы.

Если говорить про серьезные технологические изменения, то скорее всего привычные нам устройства и способы взаимодействия с электроникой, вроде клавиатуры или мышки, будут заменены на системы распознавания жестов или нейроинтерфейсы. Например, уже сейчас в современных автомобилях некоторые команды в бортовой системе мультимедиа могут отдаваться жестами. Только представьте: взмах руки – и сменился трек, еще один – и прибавилась громкость. А в будущем мы сможем управлять компьютером «силой мысли», вводить текст, отправлять почту и выполнять другие нужные нам действия.

Подобные технологические изменения не обойдут стороной и такую активно развивающуюся область, как робототехника. В скором времени появится больше каналов общения и передачи информации между человеком и роботом. Сегодня активно развивается распознавание речи.

Следующим уровнем развития каналов общения человека с компьютером станет распознавание эмоций. Скорее всего появятся новые каналы взаимодействия с роботами, ведь только звукового канала общения недостаточно. Чтобы определить правильность или неправильность своих действий, роботу будет очень полезно видеть человека и распознавать его эмоции.

Например, если робот, начиная выполнять команду, увидит удивление или испуг на лице пользователя, он поймет, что что-то не так, и уточнит команду, задав вопрос «правильно ли я понял?».

– Что из привычных нам вещей или процессов так сильно изменится под влиянием ИИ, что следующие поколения даже не смогут понять, что это, как работает и зачем вообще нужно. Например, как пейджер для поколения 2000-х – совсем пустой звук.

– В будущем скорее всего изменится привычный нам форм-фактор телефона. Если мы будем иметь новый канал общения с компьютером – нейроинтерфейс или распознавание речи и взгляда, то носить в кармане привычную телефонную трубку больше не будет необходимости. Телефон, например, может быть встроен в часы, экран которых будет проецироваться в виде голограммы. Но это больше связано не конкретно с ИИ, а вообще с развитием технологий.

Если говорить именно про ИИ, то его развитие изменит не столько наше общение с компьютером, сколько количество и формат информации, которую он будет получать от нас: команды с клавиатуры, речь, движения глаз, мимика и т.д.

– Как не упустить ИИ из-под контроля и нужен ли вообще такой контроль?

– Многие специалисты выступают сегодня за введение контроля за разработками в области ИИ. Многие читали заявление CEO Tesla и Spase X Илона Маска, в котором он говорил, что искусственный интеллект может стать «самым большим риском для человеческой цивилизации». Лично я не уверен, что контроль и ограничения в области разработок ИИ технически возможны. Скорее всего разработка будет идти своим чередом, а по мере возникновения проблем будут искаться пути решения.

Сейчас рано устанавливать подобный контроль в силу того, что ИИ находится на стадии своего взросления, изучения возможностей и рисков. Еще рано говорить об ограничениях. Любой инструмент может быть опасным – в зависимости от того, в чьих руках он окажется.

– А какие разработки в области ИИ ведутся сейчас? Какие есть концепции, преобладающие в мировой практике?

– Направлений очень много, и друг с другом они не всегда связаны. Наибольший прогресс сейчас достигнут в области распознавания изображений, видео и аудио. Неплохие результаты есть в обработке текстов и понимании текстов на естественном языке и в системах общения.

Если говорить про теоретическую базу, то однозначными фаворитами являются глубокое обучение (англ. deep learning) и его различные вариации, а также машинное обучение (англ. machine learning). То есть это нейронные сети различной степени сложности и машинные алгоритмы, которые позволяют обрабатывать большое количество данных. Например, Random forest, Decision table, Bayesian networks и прочие. Сами по себе они являются не нейронными сетями, а моделями, которые позволяют классифицировать данные.

Если говорить о безопасности в IoT, можно сказать, что в развитии этой области есть большие риски. И здесь ИИ может помочь изменить ситуацию в лучшую сторону за счет того, что сделает процесс управления устройствами значительно проще

Лично мне еще очень нравится обучение с подкреплением (англ. reinforcement learning). Представьте, что робот играет в игры типа шахмат или игры на приставке и учится.

Где-то он будет выигрывать, а где-то проигрывать и на основе этого формировать стратегию игры.

Например, Facebook провел одно очень интересное исследование, в рамках которого разработал игру, где роботы должны были торговаться с человеком для максимизации своей выгоды.

Игра была ограничена десятью раундами диалога. Согласно правилам, если этот лимит был превышен, вознаграждение не получала ни одна сторона. В ходе общения машины даже научились блефовать, т.е. делать ставку на предметы с низкой стоимостью, представляя их как ценный козырь.

Анализируя большие массивы данных, ИИ определял, где можно вводить других игроков в заблуждение, при этом не нарушая правил, а наоборот, выстраивая четкую стратегию. Таким образом, робот немного терял вначале, но выигрывал на большой дистанции. В этом как раз и состоит идея обучения с подкреплением – это не победа на каждом шагу, а, как в шахматах, через жертвование пешкой движение к победе.

– Развитие рынка интернета вещей несет определенные риски. Как использовать эту технологию и оставаться в безопасности?

– Вопросы обеспечения безопасности в области интернета вещей и развития ИИ кажутся почти не связанными между собой. Но это не так. Если говорить о безопасности в IoT, можно сказать, что в развитии этой области есть большие риски. Например, мы знаем, что на роутерах, сотовых телефонах, видеорегистраторах, веб-камерах и прочих устройствах почти в половине случаев не меняются установленные производителями пароли. Получается, что любой человек может войти в сеть, получить доступ к устройству и выполнить какие-либо действия. Пока речь идет о Wi-Fi-роутере в квартире, это не страшно, но, когда к интернету вещей будут подключаться устройства с исполнительными механизмами (например, включение-выключение воды/электричества), манипулирование ими может иметь серьезные последствия. И здесь ИИ может помочь изменить ситуацию в лучшую сторону за счет того, что сделает процесс управления устройствами значительно проще.

Безусловно, пользователю со своей стороны нужно обеспечить хотя бы базовые основы безопасности, следовать инструкции и менять пароль с «1234» на что-то более надежное. И, конечно, необходимо использовать решения для защиты своих данных: своевременно создавать резервные копии и хранить их в нескольких местах, например на внешнем жестком диске и в облачном хранилище Acronis True Image 2017 NG.

– Боты, которые могут служить надстройкой над интернетом вещей, – в чем их специфика? Поможет ли это как-то обезопасить мир интернета вещей?

– Если мы говорим именно про надстройку над интернетом вещей, то задача ботов состоит в том, что они упрощают контакты человека с устройствами типа конечных датчиков, охранной сигнализации и управления веб-камерой в доме.

Специфика разработки такого бота состоит в том, что общение с ним должно быть очень простым и удобным. Для этого хорошо подходит голосовое общение, как, например, с виртуальным помощником в телефоне, или общение через текстовые сообщения в мессенжерах, например через боты в Телеграме или Facebook. Такая надстройка может помочь интернету вещей как в плане безопасности, так и в плане удобства. Например, вы купили себе Wi-Fi-роутер, а бот присылает вам сообщение в Телеграм с предложением сменить пароль на что-то более надежное, чем 12345.

Говоря про безопасность интернета вещей, отмечу, что для ее обеспечения боты должны начать общаться между собой. При этом должен появиться бот, который будет аккумулировать информацию от остальных ботов. Например, в процессе разработки нового программного обеспечения мы в компании используем ботов, которые отслеживают процесс разработки, сообщают о новых версиях, ошибках и прочем. А может быть еще бот-босс, который бы контролировал остальных. Например, сообщал о том, что какой-то бот не выходит на связь или посылает сообщения аномально часто. Подобные боты будут не только агрегировать информацию из разных источников, но и сделают мир интернета вещей проще и безопаснее.

В начало⇑

Выпуск №09 (72) 2017г.
Выпуск №09 (72) 2017г. Выпуск №08 (71) 2017г. Выпуск №07 (70) 2017г. Выпуск №06 (69) 2017г. Выпуск №05 (68) 2017г. Выпуск №04 (67) 2017г. Выпуск №03 (66) 2017г. Выпуск №02 (65) 2017г. Выпуск №01 (64) 2017г.

Телеканал «Про Бизнес», программы «Технологии в ритейле»

           

Tel.: (499) 277-12-41  Fax: (499) 277-12-45  E-mail: sa@samag.ru

 

Copyright © Системный администратор

  Яндекс.Метрика