Где-то прочла: искусственного интеллекта еще нет, а его уже боятся. Что сказать? Неизвестность всегда если не пугает, то настораживает. 45 тысяч выдающихся представителей человечества обратились  к создателям искусственного интеллекта с просьбой: быть внимательными при создании этого феномена и учитывать, что он несет как благо, так и опасность.

Академик РАН, доктор химических наук и научный руководитель Южного федерального университета Владимир МИНКИН считает, что искусственный интеллект может нести как благо, так и вред.
На это обратил внимание слушателей академик РАН, доктор химических наук и научный руководитель Южного федерального университета Владимир Минкин. Его открытая лекция «На пороге новой научной и социокультурной революции: искусственный интеллект и машинное обучение» прошла в  НИИ физической и органической химии ЮФУ.

Еще в 1997 г. суперкомпьютер Deep Blue, созданный на основе ИИ, победил в шахматах чемпиона мира Гарри Каспарова.

В 2016-м появляется компьютерная программа AlphaGo и через год обыгрывает профессионалов игры в го. А в 2018-м робот Pluribus побеждает шестерых лучших игроков в покер. Покер считается игрой непредсказуемой, игроки блефуют. Так вот удачно собранное «железо» сумело распознать и понять, что такое блеф.

Машинное обучение – главная технология ИИ

Безусловно, машинный мозг не может мыслить как мозг человека. Пока не может. Сегодня ученые всего мира, используя новые технологии в сфере математики, информатики, робототехники, работают над тем, чтобы научить искусственный интеллект мыслить самостоятельно. Делается это с помощью так называемого машинного обучения.

– Мы сталкиваемся с ситуацией, когда не нужны теории, наработки, принятые методологии научного знания, – поясняет Владимир Минкин. –  То есть традиционного пути к знанию нет. Вы просто берете набор данных, структурируете, сортируете по правилам теории вероятности, наполняете новыми данными для того, чтобы получать любые предсказания и прогнозы.

Сегодня ученые всего мира занимаются обучением машин, основанном на нейронных сетях, похожих на механизм действия нейронных сетей человеческого мозга. Наши ученые ведут исследования в области нейросетей компьютерного зрения, обработки естественного языка, распознавания синтеза речи, интеллектуальной поддержки принятия решений и других направлений. Для того чтобы поддержать разработки ученых финансово, в августе этого года Правительство РФ приняло федеральный проект «Искусственный интеллект», бюджет которого исчисляется десятками миллиардов рублей.

Симуляция или понимание?

Делая открытия, ученые опираются на эксперименты, науку. Вся классика той же современной химии основана на научных исследованиях. К примеру, американский химик Роалд Хоффман изучал на основе квантовой химии поведение силана (водородного соединения кремния) под высоким давлением. Эта структура под высоким давлением может стать сверхпроводимой. Хоффман создал целый трактат по результатам исследований. Вместе с тем группа ученых решала ту же самую задачу, что Хоффман, но с помощью машинного обучения. В итоге эти ученые получили другую и наиболее правильную, чем хоффмановская, структуру. То есть машина без всяких опытов и теоретических изысканий на основе заложенных данных получила нужный результат. 

Получается, что подходы, основанные на искусственном интеллекте и машинном обучении, входят в противоречие с классическим методом постижения научного знания?

Существующая наука строится на теории. Машинное обучение фактически отрицает теорию.

Машинное обучение, искусство и «оборонка»

«Шаг вперед в науке делается по закону отталкивания...» «Шаг вперед в искусстве делается по закону притяжения...» Первое высказывание принадлежит Карлу Попперу, автор второго – Борис Пастернак. Эти цитаты привел академик Минкин, иллюстрируя некое представление, что наука и искусство несовместимы. При чем здесь искусственный интеллект, скажете вы? Да притом. 

В прошлом году на аукционе «Сотбис» был продан портрет некоего Эдмонда Белами за 43 тысячи долларов при стартовой цене 10 тысяч. Портрет Эдмонда Белами нарисован искусственным интеллектом. Сам Эдмонд – абсолютно выдуманный персонаж, рожденный «сознанием» компьютера.

Программу Generative Adversarial Networks (GAN) разработали трое молодых французов из парижского общества искусств Obvious. В компьютер загрузили 15 000 портретов, написанных в XIV–XX веках. Потом подключили дополнительный алгоритм, который научил машину отличать картину, написанную человеком, от той, что сделала машина. И компьютер приступил к созданию «шедевра».

Судя по цене, вырученной на аукционе, сработал искусственный интеллект свое произведение что надо.

Используя программу GAN, можно не только нарисовать или преобразовать любую картину, но и создать несуществующих персонажей. И они начинают жить в социальных сетях вместе с людьми реальными. Это не совсем безобидная идея. Одно из лондонских изданий поместило материал, посвященный некой Кате Джонс. Катя фигурирует в соцсетях, входит в контакт с официальными лицами. Хотя на самом деле это – придуманный образ. Нетрудно предположить, что таких подставных персонажей существует достаточное количество. Как отличить их от реальных? Кто знает, что им взбредет в «голову»?  Никто не знает, как поведет себя искусственный интеллект «идеального солдата». А эти разработки идут очень активно. Имея в виду опасность использования ИИ в военной сфере, известный предприниматель и изобретатель Илон Маск написал на страницах американского издания «Нью-Йорк таймс» о том, что искусственный интеллект несет фундаментальную угрозу человечеству: «искусственный интеллект – тот случай, когда нужно быть достаточно дальновидным в вопросах регулирования, иначе может оказаться слишком поздно». «Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски», – предупреждал английский физик-теоретик Стивен Хокинг.

В мире было несколько технологических революций. Первая – открытие пороха, вторая – ядерного оружия, третья – автономного оружия. Это оружие может вести войну, масштабы которого люди не смогут осознать…

Самое известное произведение Кацусики Хокусая – гравюра «Большая волна в Канагаве» – впервые было представлено публике в 1832 году. На гравюре изображена огромная волна, нависшая над лодкой. Морякам не повезло – они попали в сильный шторм, так что им вряд ли удастся спастись. 

По мнению искусствоведов, несчастные моряки, цепляющиеся за борта хлипких лодок, могут олицетворять все человечество. 

Именно эту гравюру показал на слайде в конце своей открытой лекции, посвященной искусственному интеллекту, Владимир Минкин: 

– Справедлива ли данная метафора или нет, покажет время… 


P. S. Четвертого декабря президент России Владимир Путин поручил кабинету министров обновить законы в сфере искусственного интеллекта. Он также предложил разработать морально-нравственный кодекс работы ИИ.