«SECON»-2025: доверять или не доверять искусственному интеллекту?

Давненько Пензу не баловали интеллектуальной «движухой». Так-то грешно говорить, что в нашем городе скучно. Культурных программ проводится море! Чуть ли не в каждом дворе поём и пляшем. Восхищаемся гусарами и солдатами образца 1812 года на исторических реконструкциях. Правда, чепчики в воздух пока не бросаем, сдерживаем порывы. В парках празднуем дни варений и каш с непременной дегустацией виновников торжества. Вкусно и задорно! В общем, много, всего много. А вот, поди-ка, хочется на фоне этой пресыщенности ещё чего-нибудь этакого!

И как раз этакое выдали нам пензенские айтишники. После четырёхлетнего перерыва организаторы конференции «SECON» решили напомнить о себе. Возвращение получилось достойным. Программа двух дней получилась насыщенной и включала мероприятия по 19 тематическим направлениям. Среди спикеров – знаменитости отрасли, руководители Руссофт, Сбер, Яндекс и Ростелеком. 

***

Безусловно, основными «потребителями» конференции были программисты, а также люди, непосредственно связанные с ИТ-отраслью. Впрочем, и простых любителей научной фантастики, к коим себя причисляю, не оставила равнодушной как атмосфера, так и главная тема сейшена – вызовы для ИТ-сферы на фоне активного внедрения искусственного интеллекта (далее – ИИ).   

Но сначала об атмосфере, царившей в стенах Лермонтовской библиотеки в день открытия. Первое, что бросалось в глаза – было много молодёжи. И то ли это обстоятельство, а может, тот факт, что организатором выступил частный бизнес, – атмосфера больше тяготела к неформальной. 

На двух этажах библиотеки прогуливались роботы, около стендов красовались милые девушки в футуристических кокошниках. 

Молодёжь постарше залипала около интерактивных досок, школьники играли в квест «Собери наклейки – получи приз». 

Та же неформальная обстановка витала и в конференц-зале, повлияв, похоже, даже на губернатора Пензенской области Олега Мельниченко, который специально приехал в библиотеку, чтобы поприветствовать участников конференции. Своё приветствие, подготовленное специально обученными людьми, он зачитывал от силы около минуты. Потом, вероятно, посчитав это дело чересчур официозным и где-то скучноватым, гармонично перешёл на экспромт. 

Глава региона пожелал креативности пензенским специалистам и мирового лидерства, а областная власть, в свою очередь, постарается им в этом помочь. И чтобы не быть голословным, сообщил, что на очередной сессии Законодательного собрания Пензенской области депутаты продлили действие налоговой ставки в 1% по упрощённой системе налогообложения для организаций и индивидуальных предпринимателей в сфере IT-технологий.

Эта новость вызвала бурное оживление в зале. А далее губернатору последовало предложение присоединиться к спикерам панельной сессии «Промпт индустрии». И Олег Мельниченко с лёгкостью его принял.

Чтобы оценить явно ещё один экспромт от губернатора, достаточно было ознакомиться с участниками сессии. А это, - на минуточку! - такие ИТ-тяжеловесы, как: президент ассоциации Руссофт Валентин Макаров, директор по развитию цифровых технологий Ростелеком Роман Хазеев, создатель линейки Kandinsky от Сбербанка Денис Димитров, основатель iSpring Юрий Усков, директор по развитию технологий Искусственного Интеллекта Яндекса Александр Крайнов и коммерческий директор «Девелоника» Роман Смирнов. В общем, смелый ход от губернатора.

***

Приведу наиболее интересный фрагмент панельной сессии, где докладчикам предлагалось ответить на вопрос «Что сегодня нельзя доверить искусственному интеллекту?».

Президент ассоциации Руссофт Валентин Макаров: 

«Не доверил бы права принимать решения. Это чревато тем, что кто-то сторонний сможет войти в ваш ИИ и создать такие правила, которые очень сильно вам же навредят».

Создатель линейки Kandinsky от Сбербанка Денис Димитров

«Считаю, часть решений всё же можно доверить. Просто существуют разные решения по степени влияния на конкретного человека, общество и т.д. Например, почему мы не видим развития автомобилей-беспилотников, несмотря на то что есть рабочие алгоритмы, есть опытные площадки в том же Иннополисе или кампусе Сбер-университета? Потому что нет до конца интерпретируемости тех решений, которые принимает такой беспилотник, при этом есть риск наличия ошибок у любого алгоритма. Кроме того, нет законодательной базы, кто будет нести ответственность за то или иное решение. Та же ситуация в медицине, где есть риски принятия ИИ неверного диагноза. На кого в таких случаях будет возложена ответственность?

Директор по развитию технологий Искусственного Интеллекта Яндекса Александр Крайнов: 

«Чего вы докопались до ИИ! А человеку вы готовы доверять? Происхождение знаний в системе принятия решений не очень важно. Важно – точность работы. Доверять или не доверять ИИ равнозначно – доверять или не доверять человеку. Замерили, посмотрели, определили: можно доверять или нет? 

Другой вопрос, в каком конкретном месте сегодня непрерывно лажает ИИ по сравнению с человеком? Я бы не доверил ему нести поднос с чем-нибудь хрупким, потому что разобьёт. Кофейный тест Стива Возняка (один из основателей Apple) – на незнакомой кухне сделать чашечку кофе - ИИ пока тоже не проходит».

Директор по развитию цифровых технологий Ростелеком Роман Хазеев:  

«Поддержу коллег в том, что медицина - это та сфера, где принятие решений должно оставаться за человеком».

Коммерческий директор «Девелоника» Роман Смирнов:

«Я бы доверил почти всё, кроме, пожалуй, выбора ресторана на ближайший вечер. Это решение оставлю за собой».       

Основатель iSpring Юрий Усков:

«ИИ не пустил бы в область базового образования – школу и вуз. Наших детей он умнее не сделает. Этот продукт только для взрослых».

Губернатор Пензенской области Олег Мельниченко

«Соглашусь с тем, что в образовании ИИ не следует применять. Надо учить детей думать самостоятельно. А вот в медицине, считаю, ИИ найдёт широкое применение. Выбор ресторана и места отдыха пусть останется за человеком. Главное, не допустить ИИ в сферу принятия решений о применении ядерного оружия и оружия массового уничтожения».   

***

Осмотрев все стенды, послушав умных людей на панельной сессии и сделав фото для статьи, я направилась к выходу из библиотеки. Простому любителю научной фантастики этого набора было вполне достаточно. Спускаясь по лестнице, меня остановил мальчишка, на вид лет десяти. «А вы не знаете, где выдают призы за прохождение квеста?» - спросил он меня и показал заполненную наклейками карту. «Извини, я и про квест-то не знаю», - ответила, поймав его слегка раздосадованный взгляд. Мальчишка побежал искать более осведомлённых взрослых, а мне вдруг стало до жути интересно: как скоро наступит время, когда ИИ начнёт мечтать о ресторанах или, на худой конец, об электроовцах?

Елена Дмитриевская