Поиск по сайту

bit.samag.ru

Web

Рассылка Subscribe.ru

подписаться письмом

Вход в систему


Запомнить меня
Регистрация Забыли пароль?

О журнале

Ваше мнение

Статьи

Общие тенденции и тренды

Архив

Мероприятия

Календарь мероприятий

январь

2025

показать все

Новости партнеров

29.01.2025

Форс и PGARM: новый стандарт диагностики и мониторинга СУБД PostgreSQL

14.01.2025

RED Security SOC: хакеры усилили давление на критическую информационную инфраструктуру России

14.01.2025

«Газинформсервис» занял 2-ое место в списке поставщиков решений для защиты информации в РФ

27.12.2024

РАЭК определила лидера среди классифайдов по числу объявлений о долгосрочной аренде

26.12.2024

За экспертизой в инфобезе — к «Газинформсервису»

показать все

Статьи

13.01.2025

Как управлять командой разработчиков в условиях постоянных изменений?

13.01.2025

Как привлекать ИТ-таланты в условиях дефицита кадров?

12.01.2025

Импортозамещение платформ серверной виртуализации

12.12.2024

Что следует учитывать ИТ-директорам, прежде чем претендовать на должность генерального директора?

11.12.2024

Сетевая инфраструктура, сетевые технологии: что лучше – самостоятельная поддержка или внешнее обслуживание?

13.06.2024

Взгляд в перспективу: что будет двигать отрасль информационной безопасности

18.04.2024

5 способов повысить безопасность электронной подписи

18.04.2024

Как искусственный интеллект изменит экономику

18.04.2024

Неочевидный САПР: выход ПО за рамки конструкторской деятельности

показать все

Чего никогда не следует отдавать на аутсорсинг ИИ-модели

Главная / Архив номеров / 2024 / Выпуск №09 (142) / Чего никогда не следует отдавать на аутсорсинг ИИ-модели

Рубрика: Тема номера / Искусственный интеллект

Ашиш Павар, инженер-программист

Чего никогда
не следует отдавать на аутсорсинг ИИ-модели

В мире, где эффективность превыше всего, и за одну ночь появляются рынки стоимостью в миллиарды долларов, неизбежно, что компании рассматривают генеративный ИИ как мощного союзника.

От ChatGPT компании OpenAI, генерирующего текст, похожий на человеческий, до DALL-E, создающего произведения искусства по запросу, – в этих вещах мы видим проблески будущего, в котором машины будут творить вместе с нами или даже возглавлять процесс.

Почему бы не распространить это на исследования и разработки (R&D)? В конце концов, искусственный интеллект может ускорить генерацию идей, выполнять итерации быстрее, чем люди-исследователи, и потенциально открыть «следующую большую вещь» с захватывающей дух легкостью, не так ли?

Подождите. В теории все это звучит заманчиво, но давайте посмотрим правде в глаза: ставка на то, что genAI возьмет на себя ваши исследования и разработки, скорее всего, приведет к серьезным, возможно, даже катастрофическим последствиям.

Независимо от того, являетесь ли вы стартапом, стремящимся к росту, или признанным игроком, защищающим свою территорию, передача на аутсорсинг генеративных задач в вашем инновационном конвейере – опасная игра. В стремлении внедрить новые технологии существует риск утратить саму суть того, что делает инновации по-настоящему прорывными, и, что еще хуже, ввергнуть всю вашу отрасль в смертельную спираль гомогенизированных, не вызывающих вдохновения продуктов.

Давайте разберемся, почему чрезмерная зависимость от генеративного ИИ в исследованиях и разработках может стать ахиллесовой пятой инноваций.

1. Неоригинальная гениальность ИИ: предсказание не равно воображению

Генеративный ИИ – это, по сути, сверхмощная машина для прогнозирования. Он создает, предсказывая, какие слова, изображения, дизайны или фрагменты кода подходят лучше всего, основываясь на обширной истории прецедентов. Каким бы изящным и утонченным это ни казалось, давайте внесем ясность: ИИ хорош настолько, насколько хороша его база данных. Он не является по-настоящему творческим в человеческом смысле этого слова; он не «мыслит» радикальными, разрушительными способами. Он ориентирован на прошлое – всегда полагается на то, что уже создано.

В R&D это становится фундаментальным недостатком, а не особенностью. Чтобы по-настоящему выйти на новый уровень, вам нужно нечто большее, чем просто постепенные улучшения, основанные на исторических данных. Великие инновации часто возникают в результате скачков, поворотов и переосмысления, а не в результате незначительного изменения существующей темы. Подумайте о том, как такие компании, как Apple с iPhone или Tesla с электромобилями, не просто улучшили существующие продукты – они перевернули парадигмы с ног на голову.

Gen AI может итерировать эскизы дизайна следующего смартфона, но концептуально это не освободит нас от самого смартфона. Смелые, меняющие мир моменты – те, которые переопределяют рынки, поведение и даже отрасли – происходят благодаря человеческому воображению, а не на основе вероятностей, рассчитанных с помощью алгоритма. Когда ИИ управляет вашими исследованиями и разработками, вы в конечном итоге получаете более совершенные варианты существующих идей, а не следующий прорыв.

2. Генеративный ИИ по своей природе является гомогенизирующей силой

Одна из самых больших опасностей, если позволить ИИ управлять процессом разработки вашего продукта, заключается в том, что ИИ обрабатывает контент – будь то дизайн, решения или технические конфигурации – таким образом, что это приводит скорее к конвергенции, чем к дивергенции. Учитывая, что базы обучающих данных частично совпадают, исследования и разработки, основанные на ИИ, приведут к созданию однородных продуктов для всего рынка. Да, разные варианты одной и той же концепции, но все равно одна и та же концепция.

Представьте себе: четыре ваших конкурента внедряют системы genAI для разработки пользовательских интерфейсов своих телефонов. Каждая система обучается на более или менее одинаковой информации – данных о предпочтениях потребителей, существующих дизайнах, продуктах-бестселлерах из Интернета и так далее. Что дают все эти системы искусственного интеллекта? Варианты схожего результата.

Со временем вы увидите, как развивается тревожное визуальное и концептуальное единство, когда конкурирующие продукты начинают отражать друг друга. Конечно, иконки будут немного разными, или характеристики продукта могут несколько отличаться, но суть, индивидуальность и уникальность? Довольно скоро они исчезнут.

Мы уже видели первые признаки этого явления в искусстве, созданном с помощью искусственного интеллекта. На таких платформах, как ArtStation, многие художники выражают обеспокоенность по поводу притока ИИ-контента, который вместо того, чтобы демонстрировать уникальную человеческую креативность, выглядит как переработанная эстетика, смешивающая популярные культурные отсылки, широкие визуальные тропы и стили. Это не те передовые инновации, которые вы хотели бы видеть в качестве движущей силы своих исследований и разработок.

Если каждая компания будет использовать genAI в качестве своей инновационной стратегии де-факто, то ваша отрасль получит не пять или десять новых продуктов в год, а пять или десять переодетых клонов.

3. Магия человека: как случайности и двусмысленность стимулируют инновации

Мы все читали книги по истории: пенициллин был открыт случайно, после того как Александр Флеминг оставил незакрытыми некоторые культуры бактерий. Микроволновая печь появилась на свет, когда инженер Перси Спенсер случайно растопил плитку шоколада, стоя слишком близко к радарному устройству. Кстати, а как же клеевой стикер для заметок? Еще одна счастливая случайность – неудачная попытка создать сверхпрочный клей.

На самом деле неудачи и случайные открытия – неотъемлемые составляющие R&D. Исследователи-люди, обладающие уникальным чутьем на ценность, скрытую в неудачах, часто способны воспринимать неожиданное как возможность. Прозорливость, интуиция, внутреннее чутье – все это так же важно для успешных инноваций, как и любая тщательно продуманная дорожная карта.

Но вот в чем суть проблемы с genAI: у него нет понятия двусмысленности, не говоря уже о гибкости, позволяющей интерпретировать неудачу как преимущество. Программирование ИИ учит его избегать ошибок, оптимизировать для достижения точности и устранять неоднозначности в данных. Это здорово, если вы оптимизируете логистику или увеличиваете производительность на заводе, но это ужасно для разработки прорывных решений.

Устраняя возможность продуктивной двусмысленности – интерпретируя несчастные случаи, устраняя недостатки в проектировании, – ИИ стирает потенциальные пути к инновациям. Люди понимают сложность и умеют взять передышку, когда появляется неожиданный результат. ИИ, тем временем, будет стремиться к определенности, внедряя передовые идеи и отодвигая на второй план все, что выглядит нестандартным или непроверенным.

4. ИИ не хватает эмпатии и дальновидности – двух нематериальных качеств, которые делают продукты революционными

Дело в том, что инновации – не просто продукт логики, это продукт эмпатии, интуиции, желания и дальновидности. Люди внедряют инновации, потому что их волнует не только логическая эффективность или конечный результат, но и удовлетворение тонких человеческих потребностей и эмоций. Мы мечтаем о том, чтобы делать вещи быстрее, безопаснее и приятнее, потому что на фундаментальном уровне мы понимаем человеческий опыт.

Вспомните о гениальном замысле первого iPod или минималистичном дизайне интерфейса Google Search. Успех этих решений, изменивших правила игры, был обусловлен не чисто техническими достоинствами, а пониманием недовольства пользователей сложными MP3-плеерами или перегруженными поисковыми системами.

Генеративный ИИ не может повторить это. Он не знает, каково это – бороться с глючным приложением, восхищаться изящным дизайном или испытывать разочарование из-за неудовлетворенной потребности.

Когда ИИ «внедряет инновации», он делает это без эмоционального контекста. Такое видение снижает его способность формировать точки зрения, которые находят отклик у реальных людей. Что еще хуже, без эмпатии ИИ может создавать продукты, которые впечатляют технически, но кажутся бездушными, стерильными и лишенными человечности. В сфере исследований и разработок это убивает инновации.

5. Чрезмерная зависимость от ИИ чревата потерей человеческих талантов

Вот последняя, пугающая мысль для фанатов блестящего ИИ-будущего. Что происходит, когда вы позволяете ИИ делать слишком много? В любой области, где автоматизация подрывает вовлеченность человека, навыки со временем ухудшаются. Просто взгляните на отрасли, где автоматизация была внедрена на ранней стадии: сотрудники теряют представление о том, «почему» все происходит, потому что они не используют свои навыки решения проблем регулярно.

В среде интенсивных исследований и разработок это создает реальную угрозу человеческому капиталу, который формирует долгосрочную инновационную культуру. Если исследовательские группы станут просто контролировать работу ИИ, они могут утратить способность бросать вызов, переосмысливать или превосходить результаты работы ИИ. Чем меньше вы практикуете инновации, тем меньше вы способны к ним самостоятельно. К тому времени, когда вы поймете, что нарушили баланс, может быть уже слишком поздно.

Такое снижение квалификации людей опасно, когда рынки резко меняются, и никакой искусственный интеллект не сможет вывести вас из тумана неопределенности. Революционные времена требуют от людей выхода за рамки общепринятых представлений – то, с чем ИИ никогда не справится.

Путь вперед: ИИ как дополнение, а не замена

Чтобы внести ясность, я не говорю, что генеративному ИИ нет места в исследованиях и разработках – оно, безусловно, есть. В качестве дополнительного инструмента ИИ может помочь исследователям и дизайнерам быстро проверять гипотезы, реализовывать креативные идеи и уточнять детали быстрее, чем когда-либо прежде. При правильном использовании он может повысить производительность, не подавляя творческий потенциал.

Хитрость заключается в следующем: мы должны сделать так, чтобы ИИ дополнял, а не заменял креативность человека. Исследователи-люди должны оставаться в центре инновационного процесса, используя инструменты ИИ для обогащения своих усилий, но никогда не отказываясь от контроля над творчеством, видением или стратегическим направлением в пользу алгоритма.

Вместе с появлением genAI возникла и потребность в этой редкой, мощной искре человеческого любопытства и смелости, которую невозможно свести к модели машинного обучения. Давайте не будем упускать это из виду.

Ключевые слова: genAI, исследования и разработки, исследователи, инструменты ИИ, творчество.
Источник: https://expinet.ru

Подпишитесь на журнал

В начало⇑

Комментарии отсутствуют

Комментарии могут отставлять только зарегистрированные пользователи