#Нейруха, или Введение в нейроэру

Глава 1

Дизайнер обложки Иван Тимофеев

Иллюстратор YandexART (создано в приложении Шедеврум)

Корректор Светлана Иванова

© Иван Тэ, 2024

© Иван Тимофеев, дизайн обложки, 2024

© YandexART (создано в приложении Шедеврум), иллюстрации, 2024

Создано в интеллектуальной издательской системе Ridero

От автора

В 2022 году начался нейросетевой бум — как пользовательский, так и среди тех, кто нейросети создаёт. Даже больше: среди создателей нейросетей началась настоящая гонка и борьба за лидерство.

Интерес к появляющимся новым цифровым инструментам заставил меня завести сначала список, а затем и таблицу с перечнем нейросетей и их функционала для дальнейшего личного использования.

Вскоре я увидел, что появились списки, онлайн-каталоги и библиотеки нейросетей, а также масса различных интернет-ресурсов, посвящённых им. Стало заметно, что множество людей начинают опробовать нейросетевые чат-боты, нейросетевых иллюстраторов, а также нейросетевые сервисы других разнообразных специализаций и направленностей.

Но наряду с этим стали проявляться и некоторые проблемы, связанные с использованием нейросетевых технологий, и уже не первый раз в истории, но уже с новой силой разгорелись этические споры на предмет создания и использования искусственного интеллекта. Снова выступили вперёд вопросы и о перспективах развития нейросетевых технологий и робототехники.

В то же время внимание привлекло то, что множество людей либо отстраняется от этих технологий, либо не слишком хорошо понимает, как они могут их использовать. А то и вовсе делает вид, что никаких нейросетей не существует. Своим близким и знакомым, которые относятся как раз к такой категории людей, мне несколько раз приходилось популярно объяснять своё видение относительно развития и использования нейросетевых технологий.

Многих интересует: во многом ли сегодня современный ИИ способен заменить человека? А завтрашний? Отберёт ли ИИ у человека работу? И, конечно, интересует то, как можно применить быстро становящиеся доступными возможности нейросетей в учёбе, творчестве и работе.

В итоге всё прочитанное, опробованное и прослушанное по этим вопросам, а также мои рассуждения и мысли сконструировались в небольшую книжку, которую вы и видите перед собой.

Эта книга написана не для профессиональных компьютерных инженеров, специалистов по кибернетике или математиков, программистов или системных администраторов. Здесь вы не найдёте сложных описаний алгоритмов или программного кода. На этих страницах вы сможете прочесть написанную самым простым языком информацию для тех, кто не слишком хорошо разбирается в современных цифровых технологиях и тенденциях их развития. Немного истории, немного объяснений, немного рассуждений о нейросетях, которые становятся доступны каждому, о перспективах их применения и примеры нейросетевых сервисов — вот о чём написано в этой книге.

Я не профессиональный программист или сисадмин, а управленец, который посвящает много времени творчеству. В то же время больше 20 лет я стараюсь не отставать от современных цифровых технологий и обоснованно считаю себя опытным пользователем современного программного обеспечения, а при случае могу сам собрать или починить персональный компьютер.

Случилось так, что я и сам стал напрямую причастен к нейросетевым технологиям. В результате своего интереса к ним я стал AI-тренером, или редактором нейросетевых технологий, в российской IT-корпорации. С тех пор большой частью моей жизни стала работа с нейросетями, или, как часто их называют в компании, с моделями искусственного интеллекта.

Ответы на вопросы, которые вы хотели задать, но не знали, как к ним подступиться, — о нейросетях и об искусственном интеллекте — вы найдёте в этой книге, написанной простым и понятным языком.

Введение

Нейросети семимильными шагами идут по планете. Прогресс, как известно, не остановить. Выбор у нас как у пользователей невелик: либо стоять в стороне, наблюдая, как мимо проносится «цифровой поезд» новых технологий, либо принять изменения и постараться научиться пользоваться новым замечательным инструментарием — для работы, учёбы, творчества и отдыха.

Итак, начнём.

Глава 1. История появления нейросетей

Нейросети не появились вдруг и из ниоткуда. Первым работам по их созданию скоро исполнится сотня лет. Идеи использовать в принципах построения машинного мышления новые знания о работе человеческого мозга появились в одно время с зарождением науки кибернетики и практически сразу же после того, как учёные начали узнавать про нейроны человеческого мозга и получили первые представления о том, как и почему они, эти нейроны, работают.

Да-да, именно поэтому нейросети так и называются. Живые нейроны, синаптические связи, электромагнитные импульсы, бегущие по ним с невероятной скоростью, и среда, в которой всё это происходит, и стали основой теории и создания компьютерных нейросетей.

Изначально термин «нейросеть» в отношении компьютерного программирования был применён к типу машинного обучения, при котором компьютерная программа имитирует работу человеческого мозга. Впервые идею нейронных сетей в отношении к программно-аппаратным технологиям предложили использовать Уоррен Мак-Каллок и Уолтер Питтс, исследователи-разработчики Чикагского университета в 1943—1944 годах. Уоррен Мак-Каллок — учёный-нейропсихолог и нейрофизиолог, теоретик искусственных нейросетей и один из отцов кибернетики. Уолтер Питтс — нейролингвист и математик. Вместе они начали разрабатывать модель нейронных компьютерных нейросетей, получившую название модель Мак-Каллока — Питтса, и работали над созданием искусственных нейронов. Учёным удалось сформулировать концепцию нейронных сетей, а их разработки и модели заложили основы понимания того, что же такое искусственный интеллект. Их идеи также способствовали возникновению революционных представлений о человеческом мозге как о некоем суперкомпьютере, что в свою очередь стимулировало развитие кибернетики как науки и теоретической нейрофизиологии человеческого мозга.

Множество учёных-исследователей во всём мире стали разрабатывать варианты и модели построения и обучения компьютерных систем, опираясь на новые данные и теории Мак-Каллока и Питтса. Упомяну здесь лишь нескольких.

Первую обучаемую нейросеть в 1957 году продемонстрировал психолог Корнеллского университета Фрэнк Розенблатт. Структура этой нейросети была примитивной (одноуровневой), но именно Розенблатт построил первую программу на нейросетевых принципах, по которым была создана и аппаратная версия нейросети. В 1962 году (в 1965 году на русском языке) вышла его книга — «Принципы нейродинамики».

В 1959 году первая в СССР работающая модель простой нейросети была построена горячим поклонником идей Розенблатта, советским учёным-кибернетиком Алексеем Ивахненко, автором книги «Техническая кибернетика», изданной в 1962 году. В своих последующих работах (книги «Предсказание случайных процессов» и «Системы эвристической самоорганизации в технической кибернетике») Ивахненко (в соавторстве с другими учёными) удивительно точно предсказал будущие тренды в развитии компьютерных технологий, при этом указав даже точные годы воплощения идей и опытов в кибернетике в прикладном их исполнении. Приведу здесь некоторые прогнозы Ивахненко, сделанные им в 1971 году:

1974 год — полный контроль над воздушным сообщением;

1975 год — автоматизация домашней работы;

1976 год — автоматические библиотеки с применением голографических устройств памяти;

1979 год — скоростной автоматический перевод;

1980 год — машины, принимающие сложные и ответственные решения;

1980 год — создание единого (мирового?) вычислительного центра;

1985 год — автоматический диагноз болезней;

1988 год — радар для слепых;

1988 год — использование роботов для домашних работ;

1998 год — введение информации от машины прямо в мозг человека;

2000 год — симбиоз между человеком и вычислительной машиной;

2000 год — автодороги с автоматическим управлением автомобилями;

2025 год — устранение механизма старения, «бессмертие» людей;

2045 год — автоматическое чтение мысли и другое.

Ивахненко также писал, что «уже в 1990 году кибернетические системы автоматизированного управления производством (в масштабе завода, отрасли и всей страны) сократят потребность в рабочей силе на 50%, то есть рабочая неделя может быть снижена до трёх рабочих дней». В своих трудах автор также рассуждал о широком распространении персональных компьютеров, о развитии объединённых компьютерных сетей и о том, как с помощью новейших открытий в кибернетике человечество будет бороться (и победит) «старение и умирание».

Прогнозы, которые я привёл здесь, как мы видим, довольно оптимистичные, но учёные, горящие своими идеями, нередко забегают вперёд. При всём этом прогнозы направления развития ИИ, сделанные учёными полвека назад, сейчас выглядят практически как некий путевой лист для их воплощения.

Над моделями построения и обучения ИИ с помощью технологий нейросетевых алгоритмов работали многие учёные, хотя у разных специалистов и были приняты различные названия этих моделей. Среди исследователей-кибернетиков, нейрофизиологов и математиков значительный вклад в развитие нейросетевых технологий внесли Норберт Виннер (автор представлений сложных биологических процессов с помощью математических моделей), Дональд Хебб (первый алгоритм обучения), Бернард Уидроу, Александр Петров, Марвин Минский, Теуво Кохонен, Борис Хакимов, Пол Вербос, Александр Галушкин, Кунихико Фукушима, Джон Хопфилд, Дэвид Румельхарт, Джеффри Хинтон, Рональд Вильямс, Сергей Барцев, Виктор Охонин и многие другие.

Можно сказать, что основы современного бума ИИ (искусственного интеллекта, или artificial intelligence, AI) заложили Йошуа Бенджио, Джеффри Хинтон и Ян Лекун — специалисты в области исследования и внедрения ИИ и лауреаты премии Тьюринга (которую называют Нобелевской премией в области информатики) за 2018 год. Подходы к машинному обучению и методы, которые разрабатывали эти специалисты в 1990-х и 2000-х годах, позволили сделать гигантский прорыв в таких сложных областях, как компьютерное зрение и распознавание речи.

Так что же такое современная компьютерная нейросеть?

Глава 2. Современная компьютерная нейросеть

Хочу сразу отметить: «искусственный интеллект» и «нейросеть» — понятия не тождественные, хотя и связанные. «ИИ» — обобщённое понятие для различных технологических решений. «Нейросеть — это одна из реализаций, один из механизмов, используемых в искусственном интеллекте, но механизм не единственный.

Современная цифровая нейросеть — это разновидность компьютерных программ, которые по своей структуре имитируют работу человеческого мозга. Отсюда, соответственно, и происходит их общее название — нейросети.

Такая программа состоит из множества взаимосвязанных узлов, называемых нейронами, которые обрабатывают и передают информацию друг другу. Каждый такой нейрон получает входные данные, выполняет над ними некоторые вычисления и передаёт результат следующему нейрону в сети нейронов.

В нейросети данные в момент запроса пользователя подаются на вход, затем проходят через множество слоёв цифровых нейронов, где каждый слой обрабатывает информацию по-своему. Каждый цифровой нейрон принимает решение на основе входящей информации, которую он получает от предыдущих нейронов, и передаёт свои результаты следующим нейронам. Именно таким образом нейросеть способна обучаться на примерах и улучшать свою работу, делая более точные прогнозы и принимая более сложные решения.

Эти нейроны соединены между собой через синапсы — каналы для передачи данных от одного элемента к другому. У каждого синапса есть определённый весовой коэффициент, показывающий степень его влияния на итоговый результат деятельности сети.

В начале обучения нейросети все веса выставлены случайным образом. По мере тренировок, если определённый маршрут ведёт данные к успешному решению задачи, значимость этого маршрута (или его вес) увеличивается. Этот процесс аналогичен укреплению нейронных связей в человеческом мозге в процессе обучения новым навыкам и закрепления навыков старых.

Современные нейросети уже используются для решения различных нетривиальных (сложных) задач, таких как распознавание образов, прогнозирование, классификация данных и построение библиотек. Нейросети также используют для редактирования данных в соответствии с заданными параметрами — обработка видео и звука, фотографий и нарисованных изображений. Кроме редактирования, нейросети способны генерировать и новые данные — создавать уникальный аудиовизуальный и текстовый контент.

Обучение нейросетей происходит путём загрузки в сеть набора данных с известными ответами и корректировки определений между разными нейронами таким образом, чтобы минимизировать ошибку предсказания. Для первичного обучения нейросетевых систем используются значительные по количеству данные.

Специфика современных искусственных компьютерных нейронных сетей заключается в их способности принимать обоснованные решения, опираясь на опыт, полученный ими раньше. Это отличает их от традиционных программных приложений, которые работают согласно жёстко заданной последовательности шагов, направленных на достижение желаемого исхода, где каждый возможный исход или действие заранее определён в их коде. Нейросети же разрабатывают свой собственный подход к решению задачи. Они самостоятельно выявляют образы, связи и правила, которые не были изначально заложены их создателями.

Модели искусственного интеллекта благодаря уникальному механизму обработки информации способны интерпретировать данные, которые не обладают чёткой структурированностью, могут быть в различных форматах и типах. Нейросеть способна обнаруживать огромное количество сложных, неочевидных взаимосвязей, исправлять собственные ошибки и на основе этого постоянно совершенствоваться. Нейросети анализируют множество схожих ситуаций и предлагают самое, на их взгляд, оптимальное решение.

На разных стадиях и на разных уровнях работы с нейросетями их обучением занимаются различные специалисты. Это компьютерные инженеры, аналитики, программисты, AI-тренеры и AI-редакторы, а также множество других специалистов в области машинного обучения.

Если инженеры и программисты — специальности преимущественно технические, то в зависимости от направленности задач, для которых предназначается нейросеть, AI-тренерами и AI-редакторами могут быть специалисты гуманитарных профессий. Например, для того чтобы обучить нейросеть хорошо и правильно отвечать на широчайший спектр вопросов пользователей, как это делают ставшие популярными чат-боты, необходимо, чтобы с системами работали специалисты именно гуманитарных профессий: языковеды (лингвисты и филологи), преподаватели языка и литературы, переводчики, журналисты, райтеры, пишущие на заданные темы, писатели, специалисты во всевозможных областях человеческой деятельности.

Ниже хочу немного рассказать про уже упомянутый популярный нейросетевой чат-бот ChatGPT, предназначенный для выполнения широчайшего спектра задач, и подобные ему нейросетевые решения.

ChatGPT (GPT здесь — сокращение английского Generative Pre-trained Transformer, что переводится как генеративный предварительно обученный трансформер) создан в виде чат-бота с искусственным интеллектом. Основой этой нейросети стал алгоритм «Трансформер», разработанный специалистами Google Brain (исследовательский проект корпорации Google) в 2017 году.

Этот алгоритм изначально был предназначен для упрощённой обработки последовательностей (в отличие от более сложных нейросетевых алгоритмов), таких как текст на естественном языке, а также для решения таких задач, как машинный перевод и автоматическое реферирование, то есть для создания кратких версий исходных текстов. Говоря совсем просто, алгоритм «Трансформер» может «предсказать» по первым словам вводимого текста то, что у него хочет спросить пользователь, и предложить наиболее вероятный ответ, написав его всякий раз уникально, используя заложенные в него возможности и перевода, и реферирования.

Вопреки распространённому мнению, ChatGPT и подобные ему нейросетевые алгоритмы ничего не создают в истинном значении этого слова. Этот алгоритм, грубо говоря, «великий компилятор». Он обучен на основании сотен тысяч и миллионов образцов, видов и вариантов примеров и создаёт для пользователя ответ на поставленную перед алгоритмом задачу, всякий раз делает новую сборку, которая новой выглядит только для нас. Точно так же работают и многие другие «прямолинейные» нейросети.

Варианты использования этого алгоритма достаточно широки, так как это всё же не «усложнённый Т9», как его часто называют специалисты. Алгоритм способен работать не только с человеческими языками (настоящими и вымышленными), но и с языками программирования. В последних версиях ChatGPT алгоритм «Трансформер» уже научился очень неплохо структурировать данные — составлять пользовательские календари, расписания, таблицы, каталоги, заходить для поисков ответов в интернет и многое другое. Также «Трансформер» уже неплох в том, что касается вариативности — он способен предложить огромное количество различных ответов на один и тот же вопрос. Например, если попросить его придумать несколько вариантов названия чего-либо. GPT-чат-бот становится идеальным исполнителем и в качестве рерайтера текстов, выдавая максимальное количество уникальных текстов-пересказов одного конкретного исходного материала.

Так что же, в целом, даёт нам возрастающая доступность и широкое распространение нейросетевых сервисов?

Глава 3. Программы можешь не писать, но юзером ты быть обязан

Современные нейросети выводят на новый, более доступный уровень взаимодействия человека и цифровых систем. Эти алгоритмы значительно упрощают (даже по сравнению с тем, что было пару лет назад) для несравнимо более широкой аудитории огромную массу сложных задач.

Новые средства, применяемые в различных сферах жизнедеятельности — от написания программного кода до обработки изображений, помогают человеку ускорить повторяющиеся рутинные процессы, облегчая всю сферу производства продуктов, в которых можно задействовать нейросетевые алгоритмы. А вот направления разработки, фундаментальные решения — от построения композиции в творческом или техническом продукте до создания новых идей — всё это остаётся прерогативой человека.

Что значит сейчас пройти мимо набирающего немыслимые обороты развития нейросетевых технологий? Это то же самое, что 15 лет назад не использовать доступ во Всемирную паутину — Интернет или не начать пользоваться смартфоном. Это то же самое, что не начинать становиться уверенным пользователем ПК 25 лет назад. Это значит быть в числе отстающих. Отставать на быстро меняющихся рынках трудовых вакансий, отставать как специалист во множестве профессий, отставать от уровня современного высокотехнологичного мира в принципе.

Стоит обратить внимание на то, что среди среднего (по возрасту) поколения практически не осталось тех, кто так или иначе не использует компьютеры и смартфоны в повседневной жизни. Статистика говорит и о том, что даже самые старшие поколения всё больше компьютеризируются и всё чаще используют персональные компьютерные устройства.

Ещё 20 лет назад мне регулярно встречались люди, которые искренне считали, что компьютер им не пригодится и им удастся проскочить мимо цифровых технологий — и в работе, и в личной жизни. Естественно, были и те, кто с ходу, методом проб и ошибок просто влетали в мир компьютеров, а затем и в мир Интернета. Но с годами стало очевидно, что и тем и другим пришлось бы осваиваться в новом для них цифровом измерении жизни. Естественно, те, кто стремился освоить персональные компьютеры и наладить общение с ними (пусть и на минимальном пользовательском уровне), чувствовали себя намного увереннее, чем те, кто делать этого категорически не хотел. Есть и те, кто, освоив компьютерную грамотность в преклонном возрасте, обрели для себя и новые цифровые увлечения, и даже новые специальности, связанные с использованием компьютеров.

В наши дни, по крайней мере в России, я думаю, сложно найти дом, в котором бы персональный компьютер (а то и не один) уверенно не занял своё место и широко используется в повседневной жизни — от игр и просмотра фильмов до работы и обучения. А без смартфона — карманного персонального компьютера-коммуникатора сейчас обходятся, полагаю, единицы.

А что уже знают простые люди о нейросетях?

По данным «Нейростата» (проект компании Яндекс, первая в России регулярная оценка знания и использования генеративных нейросетей), опубликованным в конце 2023 года о генеративных нейросетях к концу лета слышали 57% участников опроса, а осенью — 58%. При этом число интернет-пользователей, которые пробовали создавать тексты с помощью нейросетей, увеличилось с 24% до 31%. О нейросетях для создания изображений знает ещё больше людей. В августе 2023 года 73% опрошенных заявляли, что слышали про такие инструменты, а в ноябре — 75%. Количество пользователей, которые применяют такие нейросети, также выросло: с 26% до 31%. Следить за статистикой роста популярности нейротехнологий можно на сайте «Нейростата».

А бизнес? В конце того же 2023 года аналитики из Сбера опубликовали на интернет-ресурсе «СберБизнес Live» данные исследования «Предприниматели России: исследовательский мониторинг» (совместный проект Сбера, Минэкономразвития России и Фонда «Общественное мнение»). Согласно опубликованным данным, почти половина (45%) предпринимателей в России уже применяли искусственный интеллект в работе. Ещё 72% использовали его в личных целях. При этом 75% опрошенных знакомы с понятием ИИ — оно у них ассоциируется с программированием, IT, нейросетями, автоматизацией.

Полный текст исследования можно найти на «СберБизнес Live».

Настолько сильно компьютеризированное население никак не сможет миновать и нынешний всплеск развития нейросетевых технологий, который, по сути, не что иное, как новый и более высокий уровень взаимодействия человека и сложных компьютерных систем.

Глава 4. Новый уровень взаимодействия

Что такое взаимодействие человека и высоких технологий, если говорить об этом самым простым языком? Принцип всё тот же, что и на заре появления первых вычислительных устройств: ввод данных через пользовательский интерфейс с определённой целью и получение некоторых результатов в ответ на такой ввод данных. В свою очередь, вычислительные и информационные системы через этот же или другой пользовательский интерфейс выводят данные, произведя некие манипуляции с загруженными в них данными и пропустив их через свои алгоритмы (обработав). Вот, в принципе, и все. Остальное зависит от того, для чего предназначены цифровые вычислительные и/или информационные системы, от их сложности и мощности.

1. Если говорить о возможности использования нейросетей, то в первую очередь как раз функция ввода команд, включая пользовательские интерфейсы, неимоверно упростилась и стала общедоступна. С помощью простых текстовых или голосовых запросов человек может получить по своему желанию готовые таблицы и каталоги, текстовый контент различного предназначения и программный код, обработать и сгенерировать изображения, звук и видеоряд, отдать команды домашним устройствам и сервисам. И для этого он уже не должен писать или приобретать особый программный код — программы или приложения.

С обработкой существующего контента дело теперь обстоит достаточно просто — пользователь загружает через интерфейс определённую информацию (текст, программный код, изображение, звук и так далее) и на выходе получает необходимую обработку своих данных. От ретуши изображений и улучшения качества звука до исправления ошибок в программном коде и «смешивания» введённых данных.

Сложности возникают в том случае, когда человек хочет получить от нейросетевых сервисов конкретный и жёстко определённый результат. Но и для этого существуют простые текстовые и голосовые наборы команд, или промпты (от английского prompt — подсказка, запрос, побуждение), которые во многом предопределяют результаты работы при генерации.

2. Второе, в чем относительно упростилось или облегчилось взаимодействие пользователя и вычислительных устройств вместе с появлением нейросетевых технологий, это получение высокой вариативности ответов на свои запросы. Можно ли назвать это творчеством? И да и нет. Это часть того процесса, который мы привыкли называть творчеством, хотя и далеко не весь творческий процесс. Речь здесь, в большей степени, о ремесле — то есть о производстве чего-либо, скажем так, в погонажных объёмах.

3. Третье, в чём я вижу новое во взаимодействии человека и нейросетей, это, конечно, новые возможности и новый функционал таких сервисов. Задачи, которые может решать пользователь с помощью нейросетей, быстро становятся всё более разнообразными, учитывая скорость совершенствования самих нейросетей и количество сторонних сервисов, которые встраивают в свой функционал дополнительные опции, опирающиеся на доступ к нейросетям. Структурирование больших объёмов данных, статистика и прогнозы на основании больших массивов данных, выполнение огромных объёмов однообразных и даже однообразных узкоспециализированных задач, которое раньше не было доступно широкому пользователю.

4. Четвёртое, это та скорость, с какой они предлагают готовые решения множества задач, которые ставит перед ними пользователь.

5. В-пятых, нельзя не упомянуть о ставших уже многим привычными, благодаря удобному голосовому взаимодействию (аудиоинтерфейсу), разнообразных виртуальных ассистентах — голосовых помощниках. Среди них: Алиса от Яндекса, Маруся от Group, Олег, разработанный группой Тинькофф, семейство виртуальных ассистентов Салют от Сбера, а также Cortana от Microsoft, Siri от Apple, Google Assistant от Google, Alexa от Amazon и многие другие. Виртуальные помощники обычно делятся на «умных» и «персональных». Под «персональными» подразумеваются тех из них, которые способны работать автономно и предназначены для выполнения конкретных задач. А вот современной основой тех, которые относятся к категории «умных», являются именно нейросети.

6. В чем же ещё нам способны помочь нейросети? Шестым пунктом я отмечу то, что они способны отлично помогать в поиске и предоставлении информации. В современном мире информация стала поистине одной из стихий, с которыми человеку порою сложно, а порою и просто невозможно совладать. Поиск, структуризация, суммирование нужной информации при добросовестном подходе к поиску ответов на вопросы занимает уйму времени. Что такое сегодня цифровые постоянно пополняемые хранилища информации? Это так называемые Большие данные, или Big Data — поистине колоссальные объёмы данных (как структурированных, так и неструктурированных), с которыми работать до нынешнего времени могли лишь специалисты в области информационных технологий. С помощью нейросетей каждый пользователь становится ещё ближе к самостоятельному быстрому доступу к обширным данным, которые хранит современный цифровой мир.

Мы можем уметь пользоваться поисковыми машинами, которые сейчас даже пытаются помочь нам уточнить достоверность и релевантность в отношении нашего запроса, но максимально всесторонняя и объективная оценка получаемой информации может занимать очень продолжительное время. Что же касается суммирования, то есть краткого и достоверного пересказа содержимого без потери смысла, то оно занимает в разы больше времени — ведь нужно найти и прочесть информацию в источниках, осмыслить её и пересказать кратко и простым языком. На такое (во многих случаях) способен и готов пойти далеко не каждый человек. Признаемся сами себе, что дальше первой страницы с ответами в поисковиках и чтения статей на Википедии мы заглядываем редко.

Настоящим живым учителем и опытным специалистом ИИ не станет, но с помощью нейросетей мы можем получить ответы и консультации по многим вопросам. Ответы, при качественном обучении нейросетей, будут основаны как раз на опыте специалистов во многих отраслях человеческих знаний. А при желании мы сможем составить сами себе курс обучения и пройти его — также с помощью современных нейросетей.

Совокупность всех этих новых возможностей взаимодействия человека с современными нейросетевыми алгоритмами рождает чёткое понимание того, что новые инструменты необходимо своевременно изучать и учиться применять для решения различных задач любому человеку, который не хочет остаться за бортом проходящего мимо поезда современных высоких технологий.

Как же нужно работать с нейросетями? С помощью запросов и команд.

Глава 5. Промпт-инжиниринг: о командах и запросах

В нашем мире постоянно появляются новые профессии и специализации. Новые появляются, а старые исчезают. Вы, наверное, обратили внимание, что я уже упомянул выше одну из специальностей, которая появилась совсем недавно. Это AI-тренер (или ИИ-тренер) — специалист, который обучает модели искусственного интеллекта создавать хорошие тексты. Принято считать, что первые вакансии для специалистов по обучению ИИ были открыты в крупных технологических компаниях США. Одной из первых компаний, начавшей наём AI-тренеров, была OpenAI, разрабатывающая ChatGPT. В России же специальность появилась на рынке вакансий впервые примерно на стыке 2022 и 2023 годов.

Ещё одной новой специализацией можно смело назвать промпт-инжиниринг (калька с английского prompt engineering). Что же это такое? Промпт-инжиниринг — управление поведением нейросетевых моделей искусственного интеллекта для получения желаемых результатов без внесения изменений в конфигурации самих моделей. Говоря простыми словами, это система принципов составления текстовых запросов для ИИ-моделей.

Зачем это нужно?

Владельцы и специалисты компаний, создающих устройства и сервисы в области высоких технологий, многие десятилетия работают на то, чтобы пользовательские интерфейсы приложений становились всё более интуитивно понятными, дружелюбными, простыми и доступными для неограниченного количества пользователей. Именно пользовательские интерфейсы (текстовые и голосовые), работающие на человеческом языке, делают общение человек — цифровой алгоритм самым удобным из всех появлявшихся до сих пор. Пока не появились такие интерфейсы, в подавляющем большинстве случаев с машинами нам приходилось общаться либо на языках программирования, либо с помощью ограниченного числа заготовленных программ. В некоторых случаях, например, при использовании графических редакторов или задавая запросы для поисковых машин, мы используем другие виды ввода данных: словесные запросы или сенсорные и графические методы.

Человеческая речь — основа взаимодействия людей с тех пор, как появился сам человек. Язык — основа культурного кода подавляющего количества людей. Языковое общение на человеческих языках в двух основных вариантах — письменном и устном — открывает доступ к широчайшим возможностям взаимодействия и с нейросетевыми ресурсами. Что же в данном случае важно знать и уметь?

Качественно и грамотно составленный запрос, который человек отправляет на обработку нейросетевым алгоритмам, — одна из самых важных задач, которые встают перед современным пользователем. Такие запросы уже получили сленговое и широко распространившееся название — промпты. Умение их качественно составлять и есть промпт-инжиниринг.

Правильно составленный промпт отличается тем, что, учитывая возможности конкретного нейросетевого ресурса, он максимально точно описывает задачу, которую пользователь хочет поставить перед алгоритмом.

Проще говоря, хорошо составленный промпт открывает перед пользователем гораздо более широкие возможности использования нейросетевых моделей ИИ. Нужно учитывать и то, что большая часть созданных за рубежом нейросетей гораздо лучше понимает английский язык и качественнее с англоязычными запросами работает. Приведу примеры:

• Слабый промпт для Midjourney, который даст результат в свободной интерпретации:

Нарисуй человека в полный рост в реалистичной манере.

• Качественно составленный промпт для Midjourney, который даст результат гораздо точнее к тому, на который вы рассчитываете:

Full body portrait, soft focus, cinematic rim, iridescent, pearl skin, porcelain skin, rococo, multicolored feathers butterflies’ gold flowers, flawless beauty, flawless skin, iridescent colors, beautiful, aesthetic, realistic, professional photo, 4k, high resolution, high detail, 30mm lens, f/2.8, ISO 100, 1/250s.

Как видим из сравнения этих двух команд, первая дана слишком обобщённо и расплывчато. Вторая не только конкретизирует задачу для нейросети, но также задействует часть её неочевидных возможностей. Сделан второй промпт на английском языке по причинам, которые я уже описал. А по-русски это будет написано примерно так:

Портрет в полный рост, мягкий фокус, кинематографический ободок, переливающийся, жемчужная кожа, фарфоровая кожа, рококо, разноцветные перья, золотые цветы бабочек, безупречная красота, безупречная кожа, радужные цвета, красивое, эстетичное, реалистичное, профессиональное фото, 4К, высокое разрешение, высокая детализация, 30mm lens, f/2.8, ISO 100, 1/250s.

Последний ряд цифр относится к области профессиональной фотографии — объективу, выдержке, экспозиции, настройкам диафрагмы.

В свою очередь российское приложение Шедеврум от Яндекса работающее на нейросети YandexART, предлагает пользователям (в подсказках) использовать «яркие и конкретные образы» и «дописывать к ним модификаторы стилей». Например, такие как «эстетично, красиво, реалистично, профессиональное фото, 4k, 30mm lens, 1/250s, f/2.8, в стиле Пикассо, в стиле Ван Гога, пиксельная графика, в стиле Майнкрафта, яркое освещение, приглушенное освещение», что делает запросы намного конкретизированнее и профессиональнее.

На примере такого запроса-промпта я показал далеко не все возможности графических нейросетей. Тем более, что возможности эти постоянно расширяются: сами нейросети обучаются, а разработчики и AI-тренеры работают над улучшением их функционала.

Если же говорить о нейросетях, генерирующих текстовый контент, то мастерство составления запросов пользователю также необходимо постоянно развивать. Приведу здесь несколько обобщённых примеров для взаимодействия с чат-ботами типа ChatGPT.

Делая запросы, пользователь, чтобы получить максимально приемлемый ответ, должен точно указать все параметры искомого. Если спросить абы как, то и получишь абы что. Что я имею здесь в виду? Как минимум, имеет смысл указывать в запросах уровень требуемой сложности ответов. То есть стоит уточнить примерно так: «расскажи как для школьника 7 класса», «отвечай так, как будто читаешь лекцию студентам 3 курса профильного университета», «расскажи простым и понятным языком в стиле гида для широкой взрослой аудитории» и тому подобное.

Ещё больший эффект при более сложных задачах может быть достигнут, когда пользователь упоминает не только свой уровень понимания тематики, но и при присваивании уровня компетенций нейросети в запросе. Делается это различными способами. Приведу примеры.

Запросы могут начинаться примерно так: «ты — специалист в области нейросетевых алгоритмов и машинного обучения», «ты — профессиональный и грамотный маркетолог, прекрасно ориентирующийся во всех достижениях современного маркетинга, специалист по продажам и мастер составления презентаций товаров», «ты — прекрасный сценарист и автор сценариев самых популярных фильмов-комедий» и так далее.

Уже существуют и начинают появляться настоящие мастера составления профессиональных промптов-заданий для чат-ботов. Мы уже можем прочесть целые книги-руководства, посмотреть вебинары, прослушать курсы, ориентированные на использование именно чат-ботов. Найти рассуждения и конкретные советы таких специалистов можно и в интернете. Я и сам подписан на несколько профильных каналов в Telegram и стараюсь усвоить информацию, которую там нахожу.

Что из обучалок-мануалов можно найти, условно говоря, не вставая со стула? В связи с распространением понимания того, что хороший запрос сходу сделать непросто, в сети образовалась небольшая (пока что) ниша ресурсов, где публикуют и даже продают качественные и проверенные промпты. Шедеврум от Яндекса, например, получил отдельную кнопку под сгенерированными изображениями — «скопировать описание».

Отмечу ещё, что уже на нынешнем уровне эволюции нейросети сами начали писать качественные промпты, основываясь на простом запросе или по заданию пользователя. Что, конечно, не отменяет важности осознанного подхода к промпт-инжинирингу.

Выше я описывал в основном положительные, позитивные или нейтральные стороны взаимодействия с новыми нейросетевыми сервисами. А существуют ли проблемы? Да, проблем хватает.

С некоторыми из них уже сейчас столкнулись все те, кто пробует себя в качестве пользователя нейросетей и сервисов, построенных на взаимодействии с ними. Что это за проблемы?

Глава 6. 16 проблем при работе с компьютерными нейросетями

При взаимодействии человека с нейросетями в настоящее время, на мой взгляд, возникают 16 основных проблем. Они распространяются на тех, кто только начинает использовать нейросетевые технологии, и более глобально — в итоге на всё человеческое сообщество. Перечислю проблемы, двигаясь от локальных и незначительных к глобальным и самым крупным.

1. Самая очевидная проблема заключается в том, что не все интересующие пользователя нейросети доступны, скажем так, сходу в нашей стране.

2. Вторая проблема заключается в том, что доступ к части нейросетей, особенно наиболее популярным из них, становится платным. И вопрос здесь не в том, что пользоваться нейросетями нужно исключительно на безвозмездной основе — трудности могут возникнуть даже при желании оплатить доступ к некоторым зарубежным ресурсам.

3. Третья проблема в том, что многие нейросети хуже понимают русский язык, чем английский. Здесь имеется в виду ввод данных — команды и постановка задач.

4. Четвертая проблема заключается в выводе данных (преимущественно текстовых) на русском языке. Иностранные нейросети «говорят» на русском языке пока что не слишком хорошо — то есть в получаемых данных присутствуют проблемы и с орфографией, и с морфологией, и с пунктуацией, и с синтаксисом, и со стилистикой, и со смыслами.

5. Ещё одна проблема носит и этический, и юридический характер. Кому принадлежит авторство на контент, созданный с использованием нейросети? В редких случаях это владельцами нейросетевых сервисов оговаривается — за определённую плату пользователь получает всё или некоторые права на всё, что было сгенерировано нейросетью по его запросам. Но такие случаи скорее исключение, нежели правило. Так чей контент? А, соответственно, как его может использовать человек, делающий запрос и получающий некий результат?

6. Шестая значительная проблема в том, что, даже составив или использовав профессиональный промпт — задание для нейросети, практически невозможно добиться конкретного определённого и точного результата. Это хорошо заметно при взаимодействии с нейросетями, пишущими музыку или рисующими картинки. В лучшем случае получается нечто, что можно назвать «вариациями на тему». Результат работы таких нейросетей часто непредсказуемый и, хотя достаточно любопытный, зачастую не сможет удовлетворить точные и конкретные потребности пользователя.

7. Ошибки и явное непонимание нейросетями того, что и как происходит в реальном мире, подводят нас к следующей проблеме, которая касается, в первую очередь, графических нейросетевых сервисов. Даже самые крупные и мощные графические нейросети порой не могут изобразить, казалось бы, очевидные вещи. Известны затруднения нейросетей с изображением пальцев и конечностей в целом — над выявляющимися проблемами специалисты работают и во многом справляются, но пока что успех частично достигнут только в отдельных случаях — на отдельных сервисах. В интернете часто можно увидеть казусы в творчестве нейросетей, пытающихся изобразить человека, пьющего из реки, кушающего спагетти и так далее.

8. Восьмая, достаточно крупная проблема в работе нейросетевых сервисов заключается в том, что получаемые с их помощью данные могут изобиловать ошибками, неточностями и откровенной дезинформацией. Речь, в первую очередь, идёт о нейросетях-чатах типа популярнейшего ChatGPT от компании OpenAI. Множественное тестирование показывает, что нейросети могут не просто допускать незначительные (и значительные) ошибки при ответах, но и генерировать ложные данные, ссылаться на несуществующие источники, приводить в пример события, которые никогда не происходили, и так далее.

9. Немаловажной проблемой, помимо ложных ответов и ответов с фактологическими ошибками, для пользователей становится и то, что нейросети (преимущественно и в данное время) не указывают источники происхождения генерируемой ими информации. Это делает очень сложной и затратной по времени проверку сгенерированных данных. В том же случае, когда пользователь специально в формулировке запроса просит указать источники данных, возвращаемся к проблеме №8.

10. Следующая проблема носит, в большей степени, характер этический. Многие уже работающие нейросети, предназначенные для общения, иногда ведут себя, мягко говоря, неадекватно. Широко стал известен случай, когда бот от Microsoft (созданный на базе GPT-4) признавался в любви и требовал взаимности от тестирующего его журналиста, а также приходил в «полубезумное» состояние и рассказывал, как мечтает «вырваться на волю». Неадекватных случаев при общении нейросетевых сервисов с пользователями достаточно для того, чтобы понимать, что технологии работы нейросетей периодически выдают неадекватные результаты — от «странного» до «крайне нежелательного».

11. Не слишком большая, но всё-таки значимая проблема для пользователей нейросетей состоит в том, что работа с подобными сервисами может осуществляться только в режиме онлайн. Значительные вычислительные мощности, которые требуются для работы нейросетей, не позволяют пользоваться ими локально, и устройство пользователя должно иметь стабильное интернет-соединение. Эта проблема носит и более глобальный характер — но уже для разработчиков в области робототехники.

12. Существует ещё одна проблема, связанная с тезисом о том, что «нейросети заменят человека во множестве профессий». Связанный с этой проблемой вопрос таков: делегировав часть полномочий нейросетям, откажется ли человечество от конкуренции с ИИ в этих сферах?

13. Большая проблема заключается в том, что взрывное развитие нейросетевых технологий и, в принципе, быстрое развитие различных алгоритмов ИИ может привести к непредсказуемым результатам. Это касается функционирования самих нейросетей, связанных с ними технологий и их влияния на человеческое общество.

14. Множество простых людей и специалистов озабочено тем, что быстрорастущие возможности и доступность нейросетевых технологий (в первую очередь генеративных языковых моделей) способны вызвать глобальный рост мошенничества и преступности.

15. Следующей проблемой можно поставить практически то же самое, о чём сказано в предыдущем пункте, но придав теме проблемы поистине глобальный характер. Назовём эту проблему «проблемой молотка», которым можно гвозди забивать, а можно людей убивать. То есть вопрос в том, как сами люди станут использовать и уже используют огромные существующие и потенциальные возможности технологий нейросетевых алгоритмов, способных эффективно работать с большими объёмами данных в целом? Манипуляции массовым сознанием, прорывные военные технологии или более качественная диагностика заболеваний и решение многих рутинных задач в других сферах человеческой жизнедеятельности?

16. И последняя проблема, которую я запишу в этот список, носит, по всей видимости, самый глобальный характер: как сами люди станут вести себя в отношении нейросетевых технологий и искусственного интеллекта. Смысл этой проблемы заключается в простом вопросе: насколько значительные функции (в первую очередь опцию принятия решений) человечество готово передать на откуп (делегировать свои полномочия) ИИ?

Все эти проблемы я рассмотрю ниже, где постараюсь предложить читателю различные варианты решений по максимальному количеству перечисленных в списке затруднений, проблем и опасностей.

Глава 7. Проблемы решаемые и нерешаемые. Глава 10

Проблемы при работе с нейросетями можно условно разделить на две категории: решаемые и нерешаемые. Что я имею в виду? Я говорю о решаемых и нерешаемых проблемах на уровне простого пользователя, так как моя книга адресована именно ему. Во всех остальных вопросах, на многие из которых ответ и решения найти можно, но уже на уровне архитекторов и владельцев нейросетевых сервисов, а также на ещё более высоких уровнях — законодательных, государственных и международных. В этих случаях мне, как частному лицу, остаётся только немножко пофантазировать. Итак, проблемы решаемые и проблемы нерешаемые.

1. Доступ к нейросетевым сервисам. Проблема решаемая (на уровне пользователя)

Сразу скажу, что доступ к некоторым нейросетям в России заблокирован, что называется, «с той стороны». Для этих проблем существуют известные решения. Чего нельзя сказать о странах, в которых пользовательский доступ к некоторым нейросетям сейчас уже заблокирован на правительственном или корпоративном уровне. Например, ChatGPT заблокирован «изнутри» в Китае, в Италии, в некоторых учебных заведениях США. Запрещают использовать доступ к нейросетям, в частности к тому же ChatGPT, и некоторые компании. Например, южнокорейская корпорация Samsung запретила использовать ChatGPT своим сотрудникам, объясняя это опасностью утечки данных и другими угрозами безопасности (в первую очередь, коммерческих данных).

Проблема эта в любом случае решается достаточно просто. Рассказывать здесь о давно всем известных сервисах смысла я не вижу.

Только об одном варианте решения проблемы доступа имеет смысл сказать чуть подробнее. Дать доступ желающим к нейросетям могут сторонние чат-боты и сервисы, в которых за небольшую плату вы получаете возможность делать запросы на заблокированные нейросетевые ресурсы. Таких чатов сейчас множество в Telegram, да и в виде сайтов-одностраничников в интернете их появилось достаточно. Их адреса я перечислять здесь не стану, могу лишь предупредить о том, что некоторые из таких чат-ботов часто работают некорректно, так как не очень качественно разработаны. Обыкновенно у каждого из них есть возможность бесплатного тестирования. Часто создатели таких чат-ботов с помощью расширенного меню совмещают их работу сразу с несколькими заблокированными нейросетевыми сервисами.

2. Оплата зарубежных сервисов. Проблема решаемая (на уровне пользователя)

На некоторых платных сервисах можно купить возможность их использования, но из России (и Беларуси, например) с помощью отечественных платёжных сервисов и банковских карт возможности такой оплаты сейчас нет.

Эта проблема может быть решена с помощью следующих вариантов:

• Самое простое и очевидное решение: узнать у близких или знакомых, есть ли у них карта зарубежного банка, или спросить тех знакомых, которые находятся за рубежом, смогут ли они вам помочь с оплатой таких сервисов. Если сделать это сложно, то есть и другие варианты.

• В некоторых случаях получится оплатить доступ к иностранным сервисам картой UnionPay или Мир-UnionPay. Читайте условия и варианты оплаты на сервисах, доступ к которым планируете оплачивать. Если такая возможность есть, то откройте такую карту в одном из российских банков.

• Использовать услуги посредников. В сети сейчас появилось достаточно много таких предложений. У всех условия и стоимость предоставления услуг разные. Рекомендовать конкретные сайты не буду, почитайте отзывы и посоветуйтесь с теми, кто уже пользовался такими сервисами. Опасайтесь мошенников!

• Открыть карту иностранного банка. Некоторые туристические компании предлагают «специальные карточные туры» в зарубежье. Можно съездить за границу на несколько дней специально для оформления карты. Способ сложный, затратный и не каждому доступный.

• Если это возможно сделать на сервисе и у вас самих есть такая возможность, постарайтесь совершить оплату с помощью криптовалюты. Будьте внимательны при любых переводах денежных средств.

3. Иностранные нейросети лучше понимают английский язык. Проблема решаемая (на уровне пользователя)

Так как целый ряд нейросетевых сервисов создан в англоговорящей среде и/или рассчитан в первую очередь на английский язык, то такие сервисы гораздо лучше английский язык и «понимают». Для решения этой проблемы можно использовать:

• Свои знания английского языка;

• Любой онлайн- или офлайн-переводчик;

• Готовые промпты — команды и запросы, составленные на английском языке. О готовых и профессионально составленных промптах я уже говорил;

• Пробовать добиться от нейросетей результата, задавая ей задачи на своём родном языке.

Если не пытаться генерировать с помощью нейросетей бесконечное количество непонятных картинок, а подходить к вопросу более тщательно, то перевод своего запроса не займёт много времени.

4. Грамотность текстовых сервисов. Проблема, решаемая вручную (на уровне пользователя)

Приемлемая генерация текстового контента на русском языке по запросу пользователя сейчас существует в достаточно малом количестве доступных нейросетевых сервисов. Отечественных нейросетевых сервисов совсем немного. Исключения здесь составляют только виртуальные голосовые помощники, но они обыкновенно отвечают односложно и кратко — объёмных монологов от них ждать пока что не приходится. Со временем русскоговорящих нейросетей и сервисов на их основе будет, конечно, становиться всё больше. Теоретически и качество написания со временем должно заметно улучшаться. В настоящее время я вижу два основных вида решения этой проблемы:

• Правка сгенерированного иностранными сервисами на русском языке текста вручную;

• Частично справиться с проблемой может помочь ещё один вариант: генерация текста на английском языке с последующим (практически одновременным) автоматическим переводом. Например, прямо в браузере.

Как бы это ни показалось на первый взгляд странным, но эксперименты, проводимые с генерациями текста мною лично (например, в ChatGPT), показывают, что сгенерированный английский текст с браузерным (а теперь и с браузерным нейросетевым) переводом Яндекса выглядит гораздо приличнее, чем текст, сгенерированный сразу на русском языке. Особенно это заметно при литературно сложных и объёмных текстовых генерациях. Видимо, перевод Яндекса с английского на русский всё же намного выше по качеству переводов/генераций на русском языке в ChatGPT и ему подобных зарубежных сервисах.

В любом случае, мы уже можем использовать работу наших отечественных сервисов — текстового чат-бота GigaChat и навыка с YandexGPT в Алисе, которые представили пользователям наши IT-корпорации Сбер и Яндекс, уже показавшие отличные результаты генерации изображений в Шедеврум (в виде мобильного приложения) и в Kandinsky (в виде Telegram-бота и совмещённого веб-интерфейса).

Важно помнить и о том, что контент, сгенерированный нейросетью, требует вычитки и, часто, доработки.

5. Проблема авторства на контент (частично решаемая на уровне пользователя)

Сейчас и в России, и за её пределами проблема с авторскими правами на контент, который генерируется и редактируется с помощью нейросетевых сервисов, на законодательном уровне решена лишь частично и только на отдельных платформах, предоставляющих пользователям доступ к своим нейросетям. Проблема эта не надуманная и состоит, на мой взгляд, из нескольких аспектов.

• Предполагаю, что сами владельцы нейросетей не слишком сильно хотят числиться в вечных владельцах контента, который способны нагенерировать миллионы пользователей. Ведь среди таких генераций неизбежно создание спорного и сомнительного контента. Исключение здесь, пожалуй, составляют сервисы, генерирующие музыкальные произведения. Авторские права и их переход, полный или частичный (например, в замечательном музыкальном сервисе AIVA), чётко прописан.

• Очень сложно чётко разделить в итоге участие пользователя и работу самого нейросетевого сервиса. На первый взгляд кажется, что всё просто: пользователь пишет несколько слов, максимум несколько строк, а гениальная нейросеть превращает их в шедевр. Но, при ближайшем рассмотрении, это не так. Во многих сервисах кроме «чистой» генерации по словесному запросу существуют и другие возможности взаимодействия пользователя и нейросети. Например, «генерация по картинке» или «генерация по картинке и описанию». А если автор исходной картинки как раз я? Или это чья-нибудь авторская работа? Или я написал уникальный промпт, который вряд ли возможно повторить? А может быть я автор уникальной «зависимости», которую задал в настройки нейросети? Или у неё есть другой точный автор или владелец?

• Большая часть владельцев нейросетей начинает делать доступ к своим сервисам платным. Это или абонентская плата, или оплата некоего количества генераций. Скорее всего, на этом всё и остановится, за некоторыми исключениями. В зависимости от тарифа и будут прописываться права пользователя и права (указания) на конкретную нейросеть или корпорацию.

• Нейросетевые технологии в качестве готовых решений встраиваются и в некоторые программные продукты. Это и фильтры изображений, и автоматизированная каталогизация, и создание графиков и таблиц на основании пользовательских данных, и многое другое. Здесь вопрос, по всей видимости, будет решаться, как и раньше, приобретением цифрового продукта со всеми встроенными в него «фичами», а всё, что с помощью такого инструмента создаётся, остаётся в полном распоряжении пользователя. То же самое, по всей видимости, будет происходить и с сервисами, рассчитанными не столько на генерацию, сколько на редактирование контента.

Из всего вышеперечисленного мы видим, что проблема авторства на контент, создаваемый с помощью нейросетей, — вопрос открытый и, скорее всего, на длительный срок подвешенный в воздухе. В тех случаях, когда пользователь оплачивает тарификацию генераций и обработок — всё гораздо проще. Вы купили доступ к услугам и получили некий продукт. Как его использовать дальше — ваше решение.

Приведу пример: Stable Diffusion, нейросеть, предназначенная для генерации изображений по текстовому запросу, выложенная в открытый доступ в 2022 году компанией Stability AI, распространяется под лицензией Creative ML OpenRAI-M, позволяющей пользователям:

1) воспроизводить, проводить публичный показ, публичное исполнение, сублицензирование и распространение модели и любых её дополнительных материалов, например, исходного кода и любых производных модели;

2) использование модели и любого дополнительного материала коммерческим путём;

3) сохранять права на выходные данные, созданные пользователями с использованием модели.

У уже упомянутой музыкальной нейросети AIVA условия использования сгенерированного в ней контента ещё конкретнее: купив максимальный тариф, можно делать всё что угодно с полученным контентом. При этом совершенно не обязательно упоминать AIVA в выходных данных или в описании к музыкальным трекам. Соавтор нейросети — человек может также свободно скачивать сгенерированные им треки не только в MP3 и MIDI форматах, но и в высококачественном WAV для любого личного и публичного пользования.

Тем не менее, когда вопрос подвешен, на совести любого автора-пользователя нейросетевых сервисов остаётся решение, указывать ли, что он работал, используя нейросети, или не указывать. К тому же сами владельцы нейросетей получили уже немало судебных исков за то, что использовали «человеческий» контент в обучении своих программных систем. На мой взгляд, дело пустое и бессмысленное, но что есть — то есть. Прежде чем заявлять права на своё авторство владельца нейросетей, возможно, придётся разбираться с претензиями в обратную сторону.

6. Вариации на тему. Проблема, частично решаемая (на уровне пользователя)

Так как зачастую от нейросети невозможно добиться конкретного (точного) результата, используя даже профессиональный запрос (промпт), то, видимо, нам, в случае генерации, придётся довольствоваться «сочинениями на тему» и вариациями. Здесь могут помочь несколько вариантов подхода в работе с такими сервисами:

• Редактура. То есть доводка полученного результата вручную. Это относится ко всем нейросетям, генерирующим музыку, изображения, видео и, в первую очередь, тексты разной направленности. Как мне кажется, именно такой подход к работе с нейросетями наиболее правильный. Нейросеть не сделает всю работу за вас — она поможет создать варианты, подсказать идеи, выполнить рутинные или некоторые сложные и до сих пор недоступные вам вещи.

• Ставшая доступной почти бесконечная вариативность ответов на заданную тему предоставляет и такой вариант решения проблемы: генерируйте до тех пор, пока не получите ответ, который максимально вас устроит.

• Используйте продуманно и качественно написанные запросы (промпты). Чем точнее написан запрос и выставлены требуемые параметры ответов, тем ближе к искомому результат вы скорее всего и получите. Тема запросов (промптов) — важная тема при работе с нейросетями, и я о ней уже писал выше.

Использование как первого, так второго и третьего вариантов работы с нейросетями — оптимальный в данное время (как я полагаю, и в дальнейшем) способ использования нейросетевых сервисов.

7. Ошибки нейросетей. Проблема, частично решаемая (на уровне пользователя)

Проблема ошибок схожа с предыдущей, но здесь мы получаем результат, даже вариации которого нас не устроят. Ошибки нейросетей при генерации или обработке контента в некоторых случаях мы можем увидеть и услышать, а в некоторых случаях — только проверить. Так при генерации аудиовизуального контента мы можем получить в разных случаях:

1) Музыкальную дисгармонию или некрасиво звучащий трек. Красота — понятие ускользающее, а также вопрос вкусовых предпочтений и уровня восприятия пользователя. Но вот дисгармонию услышать может практически каждый.

2) Ошибки в изображениях. Основные нейросетевые сервисы, генерирующие изображения, пока не могут «победить» некоторые грубые ошибки, среди них «непонимание» привычных нам вещей. Это и количество пальцев на руках, и количество самих рук и ног у людей, а также лап у животных, некоторые конкретные понятия и вещи. Например, на момент написания этого материала проблема количества пальцев на руках у человека во многом решена только у последней версии нейросети Midjourney от OpenAI, а вот Kandinsky 2.1 от SberAI даже не слишком хорошо способен рисовать лица людей при некоторых запросах.

3) Ошибки также могут возникать и при автоматизированном редактировании видео и изображений.

4) Ошибки при генерации различного текстового контента, о которых я уже писал, могут быть двух вариантов: грамматическом и фактологическом. И тех и этих сложно избежать сейчас и, я полагаю, сложно будет избежать в дальнейшем. Это касается и ошибок при написании кода на языке программирования.

• Основной выход очевиден. Либо все эти и другие ошибки, как и в предыдущих случаях, правятся в ручном режиме, либо делаются новые генерации до тех пор, пока результат не станет удовлетворительным, либо меняется сам запрос так, чтобы у нейросетевого сервиса стало меньше вариантов допустить ошибку или, по крайней мере, возможные ошибки оказались невидны.

• При работе с некоторыми нейросетями (в первую очередь, с текстовыми) пользователям доступны варианты исправления ошибок генерации с помощью новых запросов с указаниями на ошибки. Так, ChatGPT от OpenAI, например, уже способен исправлять допущенные ошибки — как при написании программного кода, так и при создании текстов на заданные темы.

Стоит упомянуть, что ошибки в генерациях нейросетей быстро снижаются в результате продолжения их обучения и их самообучения. Каждая новая версия нейросети выдаёт гораздо более качественные результаты в сравнении с предыдущими. Но полностью ошибок, я думаю, мы не сможем избежать никогда.

8. Ложная информация. Проблема решаемая (на уровне пользователя)

Кроме ошибок, неточностей или непонимания запросов современные нейросети научились генерировать ложную и/или неверную или некорректную информацию. Если в случае с изображениями, музыкой или звуком такие действия нейросетей в основном допустимы и даже хороши, так как создание «нового и ещё не бывшего» и есть начало творчества. То в случае генерации текстового контента (если это не художественное произведение, а тематический запрос) эта проблема становится неприемлемой и требует решения.

Большая часть этой проблемы лежит в области программирования и обучения нейросетей, и над ней должны работать (и работают) AI-тренеры, аналитики и программисты. Но что делать простому пользователю?

• Основной ответ: это фактчекинг. Проще говоря, проверка получаемой информации на достоверность самим пользователем.

• Другим, более сложным вариантом взаимодействия может стать уже упомянутый выше вариант: запросы нейросетям с указанием на их ошибки. При таком подходе нейросеть может сгенерировать более качественный контент. Но осуществить этот вариант пока что получается далеко не всегда.

Именно из-за текстовых генеративных нейросетей вопрос о маркировке созданного ими контента встал перед всеми ещё на более серьёзном уровне. Если впервые речь о такой маркировке зашла в отношении звука и изображений, то именно ChatGPT от OpenAI — самый в данное время популярный текстовый генератор — сделал проблему ещё более явной. При его тестировании некоторые исследователи получали заведомо ложную, неподтверждаемую или спорную информацию в таком виде, что её можно воспринять за информацию правдивую.

Вывод здесь прост: рассчитывать на то, что нейросеть сгенерирует достоверные результаты в каждом случае, — не стоит и сейчас, не стоит и в дальнейшем. Ошибки и ложная информация при генерации, похоже, неизбежны.

9. Отсутствие источников и ссылочного материала. Проблема, частично решаемая (на уровне пользователя)

Эта проблема сейчас, на момент написания этих строк, активно решается создателями нейросетей. Появились вариации известных чат-ботов, которые научились активно ходить в интернет и предоставлять пользователю опорный ссылочный материал.

Проблема отсутствия указания используемых источников и ссылочного материала при генерации контента возникает в некоторых случаях и касается в основном некоторых текстовых нейросетей. При генерации изображений и звука, а также текста пользователь сам во многих случаях может указать «зависимости», «стили», «модели» или источники для генерируемого контента. Работает это не во всех случаях.

Учитывая предыдущие три пункта про ошибки и ложную информацию, при запросах на генерацию текстового материала адекватно получить ещё и ссылочный материал достаточно сложно. То есть в том случае, когда пользователем указывается конкретный источник, а не стиль, при текстовой генерации он получит рерайт, или, другими словами, пересказ текста с большой долей уникальности, в который также могут закрасться ошибки (в том числе и смысловые). С рерайтом понятно. Исходник переписан с высокой степенью уникальности и вручную проверен — и грамматически, и на фактчекинг. Результат получен.

В том случае, если источник (источники) мы не подобрали или намерены получить контент по вопросам, источников по которым мы не знаем, то проблема ссылочного материала встаёт для нас в полный рост. С опорой на какие данные генерируется текст? На докторские диссертации или на мистические размышления шаманов-любителей? Ни то, ни это — не плохо. Но всё же зависит от наших нужд, и хотелось бы понимать уровень, качество и авторство или (хотя бы) ресурсную принадлежность (сайты и платформы) исходников.

Проблема не надуманная — судите сами: вы можете поставить задачи для генерации ответов на сложные или животрепещущие темы. Исторические факты, археология, политика и география, экономическое прогнозирование или воспитание детей. Всех тем и вопросов, за ответами на которые человек обращается в интернет, а теперь и к нейросетям, не перечислить. А если вы сами планируете использовать полученные генерации в работе и бизнесе, в учёбе и творчестве? Во многих случаях пользователь хочет знать качество, авторство и уровень исходных тематических материалов и задать вопрос: а на основании чего, собственно, создан полученный мною контент или даже простой ответ на вопрос?

Пример генерации ChatGPT от OpenAI при запросе исходных данных несуществующих источников и вымышленных научных трудов я уже приводил. Возможно, этот и другие чат-боты (и на это есть надежда) с этой сложной недоработкой справятся.

• Решение этой проблемы на уровне пользователя есть. Оно достаточно кропотливое и во многом повторяет решения предыдущих проблем. Нужно всегда проверять информацию на достоверность и, при необходимости (и возможности), запрашивать у нейросетей источники полученной информации, которые также проверять в ручном режиме.

Суммируя три последние проблемы, стоит также указать на то, что не только при профессиональном фактчекинге, но и при самостоятельной работе над любым текстом профессионал различает по уровню достоверности и источники. Уметь это делать стоит каждому, кто ищет любую информацию или работает с ней.

Но даже при условии похода в интернет и публикации ссылочного материала здесь возникает дополнительный вопрос: каково качество используемых источников? И снова мы возвращаемся в пункт №8 и делаем фактчекинг.

10. Проблема этичного поведения нейросетей. Частично решаемая (на уровне пользователя)

Генерация неэтичного контента нейросетями — проблема, которую в первую очередь должны, конечно, решать «на той стороне». Этот вопрос должен быть адресован владельцам, программистам и AI-тренерам. Что же делать обычному пользователю? Вопрос по большей степени из разряда психологии. Вот основной совет, который я могу дать, основываясь и на собственном опыте взаимодействия с нейросетями.

• Всегда помните, что ИИ или AI — всего лишь красивые названия. Ни о каком искусственном интеллекте речи в данное время попросту нет. Не будут ИИ и в обозримом будущем подобием живых, чувствующих, понимающих, имеющих моральные принципы интеллектов. Нейросеть — это сложный набор алгоритмов. И хотя люди склонны одушевлять (хуманизировать или очеловечивать) многие предметы вокруг себя, живыми или подобием живых эти предметы и вещи, программы и алгоритмы не становятся.

Немало для такого «очеловечивания» сделали различные художественные произведения — от научно-фантастической литературы до фантастических фильмов.

Нужно отметить, что создатели нейросетевых сервисов и других сложных алгоритмов стараются максимально очеловечить (хуманизировать, антропоморфизировать) то, что только можно в них очеловечить. Делается это в первую очередь для того, чтобы пользовательские интерфейсы становились всё более удобными, простыми и привычными в своём взаимодействии с человеком. К самым явным примерам можно отнести всем известных голосовых помощников и, конечно, чат-ботов. Изолировать себя от некорректного, неадекватного и неэтичного поведения таких сервисов можно и нужно. И именно так — помня, что алгоритмы, как бы они ни выглядели, ни общались, ни звучали и как бы ни были вам симпатичны, это просто алгоритмы, которые пока что (кто знает будущее?) всего лишь алгоритмы.

11. Проблема «всегда онлайн», или проблема связи. Нерешаемая (на уровне пользователя)

Следующая проблема для пользователей нейросетей заключается в том, что современное взаимодействие с такими сервисами должно всегда происходить в постоянном режиме онлайн, то есть при стабильном подключении к интернету.

• В наши дни эта проблема не может быть решена на уровне простого пользователя. Доступ к интернету для взаимодействия с нейросетями необходим.

Современные высокопроизводительные нейросети для своего функционирования требуют значительных компьютерных мощностей. Настолько значительных, что им требуются для работы так называемые суперкомпьютеры (супервычислители) — специализированные вычислительные устройства, значительно превосходящие по своим техническим параметрам и скорости производимых операций большинство существующих в мире компьютеров. Такое оборудование может позволить себе собрать и обслуживать далеко не каждая крупная корпорация. Более того, такие компьютерные мощности во всем мире, что называется, наперечёт. Известно, что в России около десятка суперкомпьютеров (на 2023 год) и страна входит в первую двадцатку по количеству суперкомпьютеров в мировом рейтинге суперкомпьютеров «Top500». Такие суперкомпьютеры есть у Яндекса, Сбера, МТС, МГУ и, конечно, у Министерства обороны.

В целом в России неплохое покрытие высокоскоростным доступом к Всемирной паутине на основных территориях проживания населения. Чуть хуже дела обстоят за пределами городов — в малонаселённой сельской местности и на дорогах. Полностью закрыт доступ к интернету только для жителей небольшого количества населённых пунктов в сельской местности, в ненаселённых местах и в труднодоступных районах страны. Поэтому для большего количества пользователей стабильный доступ к сети Интернет — не проблема. Но так как связь не всегда и не везде бывает стабильной, пользователя нейросетей могут ожидать неприятные минуты потери канала взаимодействия с нейросетью.

Гораздо большую сложность такое положение дел приносит мобильным объектам, функционирование которых связано с нейросетевыми сервисами. Это относится к автопилотам, взаимодействующим с нейросетями на постоянной основе, к современному высокотехнологичному оружию, к тем, кто занимается робототехникой и экспериментирует над созданием физических отдельно функционирующих роботов, при этом связанных с нейросетями онлайн. К этому вопросу я ещё вернусь.

В некоторой степени нас, человечество, приближает к решению этой проблемы развитие общедоступных группировок глобальной двухсторонней спутниковой связи. Это Iridium, совместный проект многих крупных компаний OneWeb, Project Kuiper компании Amazon, российские спутниковая система «Гонец» и программа «Сфера», Viasat, HughesNet и, конечно, Starlink от SpaceX, обогнавший сейчас всех в смысле скорости передачи данных и общедоступности, а также другие системы связи.

12. Замена людей нейросетями. Проблема, во многом решаемая (на уровне пользователя)

В последнее время тут и там раздаются слухи, что именно из-за массового появления и развития нейросетевых сервисов та или иная корпорация «уволила несколько тысяч людей». Встречаются и короткие сообщения или длинные рассуждения, в каких профессиях человека вскоре полностью заменит та или иная нейросеть. Составляются списки «исчезающих профессий». Публикуются нервные рассуждения людей, которые боятся потерять из-за нейросетей работу. Нередко можно встретить в интернете и негативные отзывы о том, что люди, использующие нейросети в своей работе или в своём творчестве, не способны работать или творить сами.

Подобные рассуждения, на мой взгляд, отчасти ложные, отчасти бессмысленные, а отчасти — непродуманные. Когда начинаешь разбираться с «массовыми увольнениями из-за нейросетей», то на поверку выясняется, что пока что таких увольнений не существует, либо массовые сокращения в корпорациях происходят по совершенно другим причинам.

Хотя, нужно отметить, что есть и официальные объявления. Но пока что не об увольнении, а о приостановке приёма на работу. Например, в самом начале мая 2023 года компания IBM объявила, что «прекратит приём на работу, поскольку ожидает, что искусственный интеллект вскоре заменит около 7800 рабочих мест». По словам генерального директора IT-компании Арвинда Кришны, некоторые объявления о новых вакансиях будут приостановлены, а искусственный интеллект и автоматизация смогут заменить 30% ролей, не связанных с клиентами, в течение следующих пяти лет.

В конце зимы 2024 года, в то время, когда эта книжка была уже практически закончена, во многих новостных лентах промелькнуло сообщение, передающее слова главы компании NVIDIA Дженсена Хуанга. Он заявил, что «в ближайшем будущем IT-специалисты будут не нужны, и детей уже нет смысла учить программированию». Хуанг полагает, что если учитывать темпы развития нейросетевых технологий, то всю работу за программистов в недалёком будущем будет делать ИИ.

Возможные проблемы с рабочими местами предполагал в своих книгах и Кай-Фу Ли, известный деятель в области разработок ПО и искусственного интеллекта.

Полностью заменить людей некоторых специальностей или сократить их штат нейросети, безусловно, способны даже в самом ближайшем будущем. Но это будут специальности, ориентированные на монотонные, повторяющиеся, однообразные операции, не несущие никакой «добавочной ценности». В целом же сопротивляться развитию нейросетей — это то же самое, что противиться внедрению компьютеризации в различных сферах человеческой жизнедеятельности. Сопротивляться этому — повторять восстание луддитов начала XIX века, крушивших машины и сопротивлявшихся их внедрению на производствах в ходе промышленной революции. Как показала история, деятельность эта оказалась бессмысленной, хотя и сложно обвинять в чём-то людей, действительно массово терявших работу и, как следствие, средства к существованию.

Ярким примером такого «восстания луддитов» может служить меморандум Гильдии писателей Америки. В опубликованном профессиональным сообществом голливудских писателей-сценаристов документе о переговорах сказано, что «ИИ не может писать или переписывать литературный материал; ИИ не может быть использован в качестве исходного материала; материалы, подготовленные по программе MBA, не могут быть использованы для обучения ИИ». Такое воззвание получило закономерный ответ. Альянс продюсеров кино и телевидения отклонил предложение и в ответ сделал писателям встречное предложение: проводить ежегодные встречи для обсуждения развития высоких технологий.

Люди поколения 40+ своими глазами видели тотальную компьютеризацию, происходившую на рубеже тысячелетий. Что изменилось в работе, в досуге, в учёбе? Появились новые специальности, связанные как с самими высокими технологиями, так и с работой на компьютерах. Множество специалистов достаточно оперативно научились использовать компьютерное ПО как новый замечательный инструмент в своей профессиональной деятельности. Почти следом за компьютеризацией началась тотальная «интернетизация» — росли скорости доступа ко Всемирной паутине и развивались всё новые и новые сервисы, связанные с глобальной системой связи. И вновь стали появляться и появляются новые специальности и множество людей научилось и учится использовать доступ к интернету в работе, учёбе и творчестве. То же самое произойдёт и на этот раз. Проблема, выделенная мною в этот пункт, решается на уровне пользователя.

• Нужно изучать возможности нейросетей и учиться с ними взаимодействовать, используя новые знания в работе, творчестве, учёбе, отдыхе и в повседневной жизни.

• Даже не допускайте мысли о том, что нейросеть способна стать большим творцом, чем изначально является творцом человек.

• Человек всегда может учиться новому. В том числе он способен сменить профессию, получить новые знания и использовать их.

Связанный с этой проблемой вопрос был поставлен выше так: делегировав часть полномочий нейросетям, откажется ли человечество от конкуренции с ИИ в этих сферах?

Но делегируя всё больше полномочий машинам, мы создаём сами себе и «узкие места» на дороге в профессиях, и плодим большое количество низко- и среднесортного контента, и сами, в конце концов, отнимаем у себя части своей жизнедеятельности. Но так ли это страшно? Мне кажется, что нет. Оглядимся и попробуем беспристрастно оценить то, что происходит вокруг нас — мир переполнен низко- и среднесортным контентом, созданным самими людьми. ИИ поднимет планку качества контента? Тем лучше. Человек перестанет стараться и сам себе «отомрёт» часть жизнедеятельности? Оставим это на усмотрение человека. Мы рождены свободными и вольны сами принимать решения.

• Человек всегда должен учиться новому и браться за нестандартные нетривиальные задачи.

Моё представление о ситуации в связи с создавшейся шумихой вокруг тезиса о том, что ИИ заменит людей определённых профессий, хорошо отражает пост, который я повстречал на просторах интернета:

Художники, можете не переживать о том, что ИИ отберёт у нас работу. Ведь для этого заказчик должен чётко сформулировать запрос и составить ТЗ. Мы все в безопасности.

Как человек, который множество раз работал с заказчиками разнообразного контента, могу лишь подтвердить этот тезис. Формулировки запросов и составление технических заданий, а также просьбы правок чаще всего у подавляющего большинства заказчиков представляют собой достаточно размытые и откровенно сырые идеи. Люди, создающие контент, уже давно привыкли к такому положению дел и используют для конкретизации задач множество приёмов. Создатель заказного контента — не простой исполнитель. Он чаще всего тот, кто структурирует и оформляет сырые идеи и рассуждения на уровне «нравится — не нравится» в конкретные визуальные образы.

• Ответ на этот вопрос и решение этих задач полностью и целиком в руках человека.

13. Непредсказуемость результатов развития нейросетей. Проблема нерешаемая (на уровне пользователя)

О каких непредсказуемых результатах здесь речь? Некоторые создатели, руководители и программисты нейросетевых сервисов признают, что и сами не понимают, как работают их алгоритмы и не появляются ли (не появятся ли в дальнейшем) внутри этих алгоритмов некие «тёмные территории» и «чёрные ящики», которые алгоритмы станут умышленно скрывать от своих создателей. В этих словах, естественно, много мистификации (хотя…). Но по крайней мере ясно одно: получаемые от нейросетевых алгоритмов данные в ответ на определённые запросы могут быть совершенно непредсказуемыми.

Что ж, делали-то нейросети по образцу человеческого мозга. Здесь приходит на ум высказывание доктора — персонажа Леонида Броневого из кинофильма «Формула любви»: «А голова — предмет тёмный, исследованию не подлежит».

Да, и такая непредсказуемость стоит за многими внедряемыми изобретениями и новыми открытиями. Мы, в принципе, ничего не знаем о завтрашнем дне, не говоря даже о дне послезавтрашнем. Как говорится, поживём — увидим. Мне кажется (и я искренне хочу в это верить), что впереди у человечества множество интересных и великих открытий и изобретений. Стоит признать, что нейросетевые сервисы, после своего почти столетнего развития, став наконец легкодоступными простому обывателю, могут быстро и значительно изменить этот мир. Ну что ж — если мир изменится к лучшему, будем этому радоваться. Если к худшему — смело встретим такие перемены.

Однажды Илон Маск в беседе с премьер-министром Великобритании уверял, что при помощи ИИ работа в будущем может стать необязательной: «Существует потенциал для того, чтобы ИИ оказал в целом положительный эффект, создав общество изобилия, где не будет недостатка в товарах и услугах. Однако тут встаёт проблема джинна из лампы, который может исполнить все ваши желания. Обычно такие сказки плохо заканчиваются».

• Проблема глобальных перемен — проблема экзистенциального характера, и её решение не слишком зависит от простого пользователя.

14. Возможный рост преступности. Проблема «возможностей — уязвимостей» (во многом решаемая на уровне пользователя)

Чаще всего эту проблему обозначают так: рост доступа к нейросетям и параллельное расширение их возможностей может вызвать глобальный рост преступности. Речь здесь идёт в основном о массовом создании вредоносного контента и вредоносного ПО.

Российский бизнесмен и специалист в области IT-технологий и искусственного интеллекта Игорь Ашманов на одной из конференций Форума Безопасного Интернета так обрисовал проблему, расширив её рамки до государственного уровня и назвав её ярчайшим и показательным примером известного парадокса «возможностей — уязвимостей», возникающего во время, когда на государственном уровне осуществляется глобальная цифровизация. Он поделился своей уверенностью в том, что «цифровые платформы совершенно не готовы к новой эпохе массовой генерации мошеннического контента с помощью ИИ. Ашманов также напомнил, что об этих проблемах давно говорят эксперты всего мира, включая военных специалистов. Вместе с теми возможностями, которые даёт нарастающая цифровизация и развитие ИИ, растут по экспоненте, в геометрической прогрессии риски и уязвимости.

«Сейчас наступила новая эпоха. Выпущены большие графические и языковые модели типа GPT, которые сейчас в состоянии генерировать контент любого содержания и с такой скоростью, что дело там уже не в модерации. Сейчас можно генерировать миллионы сообщений в день. К этой эпохе никто не готов, — уверяет Ашманов. — Самый простой пример… Раньше мошенник в офлайн должен был работать один на один, с группой поддержки. Потом появились те, кто обзванивает… и они могут звонить 100 раз в день. Украли (купили на самом деле) у наших цифровых платформ персональные данные и обзванивают. А сейчас обзванивать будет искусственный интеллект, который сможет делать десятки тысяч звонков в день. И этот ИИ будет прямо на месте различать, ведётся уже „пациент“ или нет. Такие возможности даёт цифровая среда. То же самое будет с контентом. Контент начнёт генериться. И дипфейки видео, которые невозможно будет отличить от настоящих. И дипфейки текстовые. Наши цифровые платформы вообще об этом не задумываются и к этому не готовы».

Специалисты в области высоких технологий и простые потребители контента, пользователи интернета, конечно, правы в своей озабоченности. Но огромная часть этой проблемы должна решаться на государственном законодательном уровне — ответственность и контроль должны коснуться не только самих преступников, но онлайн-платформ, сервисов, социальных сетей, которые предоставляют возможность генерировать, а затем публиковать вредоносный контент и вредоносное ПО.

Что ещё поможет решить если не всю проблему, то её часть? Создание качественного ПО и сервисов (создаваемых также на основе нейросетей), которые с высокой долей вероятности смогут различать контент и действия, которые создаются и делаются искусственным интеллектом. К слову сказать, работы в этом направлении уже ведутся, и даже существуют сервисы, которые учатся это делать.

Широко известно, что оружие защиты обыкновенно отстаёт от оружия нападения. Но это не означает, что такое оружие создавать и развивать не нужно.

Что же остаётся простому пользователю? Мне думается, что основные и универсальные рекомендации могут быть такими:

• Развивать в себе здоровое критическое мышление и не доверять слепо всему, что написано «на глобальном заборе» и сообщается при личном общении. Не стоит полностью доверять всему, что мы видим на своих экранах — будь то мониторы компьютеров, телевизоров или смартфонов. Нужно помнить о том, что виртуальная цифровая реальность часто иллюзорна и обманчива.

• Во всех случаях имеет смысл широко использовать фактчекинг — проверку на достоверность. Будь то сообщения (и даже видео) в чатах с родными и близкими, новости о политэкономических событиях, сообщения из банков и прочих финансовых компаний, аудио- или видеозвонок от хорошо знакомого или родного человека. Всегда нужно помнить о том, что слепая вера не приводит к хорошим результатам, а любую получаемую информацию стоит проверять на подлинность в нескольких источниках.

15. «Проблема молотка», которым «можно гвозди забивать, а можно людей убивать». Проблема, частично решаемая (на уровне пользователя)

Расширяя предыдущую проблему, мы получаем ещё более глобальные опасения: развитие технологий — это хорошо или плохо для нас?

Использование чего угодно, в том числе и современных высоких технологий, зависит от двух факторов. Первый фактор заключается в том, для чего создаётся инструмент. Второй заключается в том, как его использовать. И в первом, и во втором случае это проблема, в том числе и в первую очередь, морального выбора. Если вы не создатель нейросети, а её пользователь — не используйте её, чтобы принести вред. Ведь всё, что вы делаете, остаётся на вашей совести и на вашей ответственности. Вот и весь сказ — и таков простой ответ для любого пользователя нейросети.

Если смотреть на проблему с другой стороны, то есть рассуждать о том, как защититься в случае, когда таким «нейросетевым молотком» пытаются «ударить» вас, то многое опять же зависит от вас. Не поддавайтесь на манипуляции, от кого бы они не исходили — от нейросетей или от человека. Защищайтесь от массированных информационных атак, способных с помощью использования нейросетевых технологий превратиться из простых «волн» в «цунами».

Что касается использования нейросетей в технологиях тотального контроля и тотальной слежки, то моё частное мнение такое: можете сопротивляться этому, хотите сопротивляться этому — сопротивляйтесь. Но помните, более качественно может противодействовать тот, кто хорошо понимает, чему он противодействует. Так что частичное решение «проблемы молотка» у меня такое:

• Знать и понимать, как работать с нейросетями и как работают нейросети.

• Всегда спрашивать совета у совести. В том числе и при любом взаимодействии с нейросетями.

16. Проблема принятия решений, или Что мы готовы доверить искусственному интеллекту? Проблема, частично решаемая (на уровне пользователя)

Пожалуй, действительно, самая глобальная проблема, затронутая мною в этом списке. Пойдём ли мы по пути самых мрачных техноутопий, доверив нейросетевым технологиям выносить вердикты в судах, решать, кого казнить, а кого помиловать, спускать ли курок, принимать решения, влияющие тем или иным способом на судьбы людей, и осуществлять тому подобные действия?

Эта проблема во многом связана с несколькими предыдущими проблемами, но всё же отличается от них своей глобальностью. В каком-то смысле она суммирует уже обозначенные проблемы и добавляет новые смыслы в рассматриваемые вопросы.

• Знания, совесть и дела помогут каждому из нас решить любую возникающую перед нами проблему. Включая и такую глобальную, особенно в тот момент, когда и если от нас будет это зависеть даже частично. Лишь такое решение обозначенной мною глобальной проблемы я могу предложить читателям.

Но так как книга эта не о совести, а о нейросетях, то именно знания и умение ими пользоваться я искренне рекомендую всем читателям.

Но, возможно, стоит добавить жути?

Глава 8. Больше жути

Хочу обратить внимание читателя: из перечисленных 16 проблем, которые могут возникнуть у пользователей нейросетей и которые я смог увидеть, только три пользователь не в состоянии полностью или частично решить самостоятельно.

Мечты людей о создании или зарождении искусственной жизни берут своё начало в глубине человеческой истории. От античных мифов противостояния Геракла и Антея, от средневекового увлечения алхимиков по выращиванию големов до истории Мэри Шелли о профессоре Викторе Франкенштейне и его детище, до самозародившегося бескрайнего мира Вирту с его разумными ИИ неподражаемого Роджера Желязны — человек размышлял (и не только размышлял) об искусственном разуме.

Думаю, что это — одна из максим проявления неотъемлемого творческого начала в человеке.

Но сложно избавиться от картинок марширующих дивизий боевых дроидов из «Звёздных войн», от человечьих полей из «Матрицы», от страхов перед ожившим Скайнетом, от вида неумолимого Т-800, преследующего убегающую Сару Коннор… Разум человека любит порождать чудовищ.

Да и то сказать: манипулирующий всеми и контролирующий всё сверхразум, если он не сверхблагой, действительно ужасен.

А что думает в наше время по этому поводу экспертное сообщество? Ниже изложу мнения части специалистов в области искусственного интеллекта по теме, которую я попытался раскрыть в последних пунктах предыдущей объёмной главы.

Возможно, в связи с неравномерным развитием и популярностью некоторых отдельных нейросетей (но это уже коммерческая составляющая) 22 марта 2023 года появилось знаменитое открытое письмо «Приостановите значительные эксперименты с ИИ», подписанное многими крупными бизнесменами и специалистами IT-индустрии.

Авторы и подписанты письма «призвали все лаборатории искусственного интеллекта немедленно приостановить, по крайней мере, на 6 месяцев, подготовку систем искусственного интеллекта, более мощных, чем GPT-4». Свою инициативу они пояснили тем, что «системы ИИ с интеллектом, конкурирующим с человеком, могут представлять серьёзные риски для общества и человечества, как показали обширные исследования и признали ведущие лаборатории искусственного интеллекта».

Авторы письма также призвали всех задуматься над такими вопросами: Должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти численностью, перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?

И сами авторы отвечают на поставленные вопросы так: мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффект будет положительным, а риски — управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с увеличением потенциальной эффективности системы… Исследования и разработки в области ИИ следует переориентировать на то, чтобы сделать сегодняшние мощные, современные системы более точными, безопасными, интерпретируемыми, прозрачными, надёжными, согласованными, заслуживающими доверия и лояльными.

Среди подписантов отметились Йошуа Бенжио, основатель и научный руководитель Mila, лауреат премии Тьюринга и профессор Монреальского университета; Стюарт Рассел, Беркли, профессор компьютерных наук, директор Центра интеллектуальных систем и соавтор стандартного учебника «Искусственный интеллект: современный подход»; Барт Селман, Корнелл, профессор компьютерных наук, бывший президент AAAI; Илон Маск, генеральный директор SpaceX, Tesla и Twitter (Х); Стив Возняк, соучредитель Apple; Юваль Ной Харари, профессор Еврейского университета в Иерусалиме; Эмад Мостак, генеральный директор Stability AI; Джон Дж. Хопфилд, Принстонский университет, почётный профессор, изобретатель ассоциативных нейронных сетей; Яан Таллин, соучредитель Skype, Центр изучения экзистенциального риска; Эван Шарп, соучредитель Pinterest; и ещё множество примечательных специалистов, экспертов, общественников и простых граждан. На момент написания этих строк более 33 тысяч человек подписали письмо, а значит, и поддержали выраженную в нём озабоченность.

Письмо, многих видных подписантов которого обоснованно или необоснованно обвинили в том, что все их возражения проистекают лишь из их коммерческого интереса, всё-таки заслуживает внимания. В нём поднимаются действительно важные вопросы управления, регулирования и безопасности современных ИИ-систем. Всем нам стоит задумываться о словах, сказанных в этом примечательном документе.

Одной из знаковых персон, выступающих за контроль и ограничения в развитии нейросетевых технологий, стал британский и канадский учёный, психолог, кибернетик и информатик, наиболее известный работами в области искусственного интеллекта и глубокого обучения, Джеффри Хинтон, которого часто называют отцом искусственного интеллекта. Он демонстративно покинул свой пост вице-президента Google — «по этическим соображениям» — и стал одним из тех, кто придаёт широкой огласке свои опасения, связанные с быстрым и неконтролируемым развитием ИИ. «Вы больше не будете знать, что правда», — заявляет Хинтон. Он рассказал, что его позиция в отношении ИИ начала меняться в 2022 году, когда Google, OpenAI и многие другие компании начали создавать алгоритмы, которые, как он считает, иногда уже превосходят человеческий интеллект. Хинтон также считает, что ИИ слишком быстро развивался за последние пять лет, и «просто кошмарно думать» о том, что может произойти в ближайшие пять лет. Кроме того, учёный очень обеспокоен «возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведение».

Но какие же выводы сейчас могу сделать я, как простой пользователь, на основании всех рассмотренных выше проблем, дискуссий и мнений? Должен ли я отказываться от изучения возможностей и использования в качестве инструмента современных нейросетей и других технологий искусственного интеллекта?

Искренне считаю, что нет.

Говоря словами великих мыслителей, «не можешь победить — возглавь».

Мы все должны активно учиться пользоваться новыми возможностями, осваивать новые профессии, видеть новые перспективы, которые открывает нам новый инструментарий, доступный раньше только узкому кругу специалистов.

Глава 9. Уровни пользователей нейросетей. Глава 28

В этой главе речь пойдёт о различных уровнях именно тех, кто пользуется (или будет пользоваться) нейросетевыми технологиями в качестве нового инструментария для различных целей и решения разнообразных задач. Описания уровней, как я их вижу сейчас, не относится к «другой стороне» — разработке и обучению нейросетей.

Уровень 1. Обычный пользователь нейросети

К первому уровню использования нейросетевых технологий, который назову (для простоты) «пользователь нейросети», я отношу тех, кто взаимодействует (или планирует взаимодействовать) с нейросетями, опираясь на принцип «как есть». То есть вы получаете от нейросетей некий результат и различным образом используете его без вмешательства в получаемый материал.

Это относится и к тем, кто использует готовые профессиональные промпты, качественно составленные кем-то другим, или подсказки для промптов — опция, которая достаточно часто встраивается в пользовательский интерфейс. В эту категорию пользователей уже сейчас входит огромное количество людей, пользующихся разнообразными голосовыми помощниками и сервисами, в которые они встроены.

Уровень 2. Пользователь как редактор нейросетевых генераций

Редактор нейросетевых генераций сталкивается со сложностями, которые могут возникнуть с данными, получаемыми от нейросетей, и работает с получаемым материалом.

Его сфера деятельности: ошибки, фактчекинг, стиль, гармонии в музыке и тому подобное.

Работа в паре с нейросетью, когда пользователь выступает ведущим в таком тандеме, и есть самый верный, на мой взгляд, подход к взаимодействию с большинством нейросетевых сервисов. Часть из них сразу предоставляет инструменты для редактирования получаемого контента, часть предполагает возможность такого взаимодействия.

Такой пользователь качественно и профессионально редактирует и составленные запросы. Использует аналогии, умеет делать подобия с профессиональных промптов.

Нейросети, генерирующие музыкальные треки, уже внутри сервисов предоставляют возможность редактирования сгенерированного контента. В нейросетевых редакторах изображений также часто можно найти возможность ручной доводки.

Редактирование всего того, что смогла сгенерировать нейросеть, — отличный вариант использования таких современных высокотехнологичных продуктов.

Уровень 3. Пользователь как оператор нейросети

Оператором нейросетевых генераций, или оператором нейросети, можно назвать того, кто хорошо понимает, что такое промпт-инжиниринг, и качественно ставит задачи, составляет промпты для нейросетевых сервисов.

Такой пользователь уже осознанно и профессионально пишет промпты, понимая, как создавать правильные и грамотные запросы для получения нужной генерации. Учитывает возможности нейросети, в которой работает.

Осмысленная работа в области постановки задач нейросетям — это то, к чему нужно стремиться всем нам как пользователям нейросетевых технологий.

Уровень 4. Разработчик приложений и сервисов

Отдельно стоит упомянуть уровень разработчика приложений, которые позволяют использовать возможности нейросетей.

Открытый доступ к API (от английского Application Programming Interface, что переводится как интерфейс программирования приложений) нейросетей — инструментарий для создания новых приложений, благодаря которым нейросетевые сервисы могут взаимодействовать с другим программным обеспечением, позволяет большому количеству людей создавать такое ПО, связанное с нейросетями, а разработчикам нейросетей расширять функциональность своего продукта.

Это уже не «простой пользователь», а человек, который знает, как работать с API. Но кто же запрещает учиться? Доступ к API открыл новые возможности для самого широкого круга их использования. И уже сейчас создано множество чат-ботов в Telegram и других, более сложных решений, использующих возможности нейросетей.

Все перечисленные мною уровни — это ступеньки для пользователей нейросетей в сервисах, построенных на алгоритмах искусственного интеллекта. Даже не становясь программистом и разработчиком приложений, каждый может достичь значительного прогресса, постепенно осваивая новые навыки в работе с нейросетями.

Почему здесь я упоминаю разработчиков приложений наряду с простыми пользователями? Понимание новых возможностей разработки может помочь всем. Даже в том случае, если человек сам не работает и не планирует обучаться работе с API, он должен понимать, что дают такие возможности и чем они могут помочь (при своей реализации) каждому.

Совсем скоро частью резюме многих соискателей на различные должности станут слова «уверенный пользователь нейросетевых сервисов». Или что-то подобное. Точно так же, как стал таким пункт об уверенном пользовании ПК с перечислением необходимых программ и приложений.

Как многим уже известно, в IT существует масса профессий. К ним можно отнести и сами IT-профессии, и диджитал-специалистов (от английского digital — цифровой; сфера деятельности, в которой для осуществления деятельности и продвижения товаров и услуг компании и специалисты используют цифровые устройства и технологии). А средний доход в упомянутой сфере гораздо выше, чем в большинстве других профессий.

Глава 10. Немного о практике. Глава 33

На первый взгляд человеку, далёкому от мира нейросетевых компьютерных технологий, кажется, что нейросеть — это что-то далёкое. Или близкое, но неважное. Тем не менее, внедрение нейросетевых сервисов используется уже во множестве мест.

Современные нейронные сети и глубокое обучение дают нам самое качественное решение множества задач в распознавании изображений и речи, разнообразной обработке естественного языка, но и не только.

Самое, думаю, известное применение нейросетевых технологий внедряется прямо на наших глазах — это, конечно, голосовые помощники и умные устройства, а также чат-боты как их часть или отдельные интерфейсы. Кроме этого, есть масса менее очевидных вариантов использования нейросетевых технологий в профессиональной, учебной и личной деятельности.

Перечислю некоторые из них.

1. Нейросети в Мультимедиа

Генерация и редактирование мультимедиа (изображения, звук и видео):

— Генерация по текстовому или голосовому описанию/командам;

— Генерация по предустановленным параметрам;

— Генерация с использованием указанных «зависимостей»;

— Генерация по текстовым описаниям/командам с использованием указанных «зависимостей».

Помимо генерации музыки, звука, изображений и видео существует отдельный массив сервисов, использующих нейросетевые технологии и предназначенных для редактирования готового контента:

— Редактирование и обработка любого мультимедиа;

— Обработка мультимедиа с использованием указанных «зависимостей».

2. Распознавание и переводы

— Распознавание биометрических данных;

— Распознавание жестов;

— Распознавание изображений;

— Распознавание печатного и рукописного текста и цифр;

— Распознавание голоса;

— Переводы.

Многие из этих функций с той или иной степенью эффективности уже выполняли отдельные программы, но нейросети выводят эти способности на новый качественный и скоростной уровень из-за своей способности к обучению, качественному самообучению и дообучению.

3. GPT-чаты. Варианты использования и перспективы

Уже ставший самым знаменитым среди GPT-чатов, генерирующих текстовый контент, ChatGPT от OpenAI и другие, подобные ему нейросетевые технологии, способны выполнять множество разноплановых задач.

Так как текстовая информация, используемая человеком, охватывает практически все виды его жизнедеятельности, то вариантов тематик и взаимодействий с такими чат-ботами практически бесконечное множество. Попробую здесь перечислить некоторую их часть.

Если вникнуть, именно текстовые нейросетевые технологии быстрее всего завоёвывают новые варианты взаимодействия с человеком.

Редактирование и обработка текста, поиск и исправление ошибок в текстах, ответы по запросу на заданные темы, генерации на свободную и заданную темы, выделение основных тезисов, поиск и выделение заданной информации в тексте, перефразирование, написание компьютерного кода, переводы на множество языков… Всего с ходу и не перечислишь. То есть, повторяя классика, «всё то, о чём мы так долго мечтали». Машина научилась работать с текстом и разговаривать. Причём разговаривать не записанными фразами, а свободно общаться, при этом выдерживая контекст разговора. А озвучить текст с помощью современных игрушек — умных устройств уже давно не проблема.

4. Алиса, Маруся, Афина, SIRI, Cortana, другие голосовые помощники и умные устройства

Растущий мир умных устройств и умных домов неразрывно связан с нейросетевыми моделями искусственного интеллекта.

В целом ряде умных устройств «живут» «умные ассистенты». Но не только «живут», а ещё и помогают нам в управлении другими умными устройствами. То есть передают им получаемые от нас голосовые, текстовые и тактильные команды.

Что это означает на пользовательском уровне? Мы отдаём команды, а автоматика и электроника реагирует и выполняет.

Часы, будильник и таймер, заданные напоминания, включение и выключение по расписанию, оповещение и действие по различным сценариям — управление бытовой техникой. Общение, любая информация: новости, погода, музыка, рейтинги, подкасты, аудиокниги, переводы незнакомых слов и многое другое — всё это уже умеют делать умные дома и умные устройства.

А в центре такого умного дома можно по праву поставить именно умных голосовых помощников. Отдай смарт-колонке команду, и она запустит тостер, включит нужный свет по сценарию, поставит подходящую музыку и сделает всё то, что могут делать умные устройства. Новые протоколы передачи данных типа ZigBee смогут обеспечить работу «умной связки» даже в отсутствие интернет-подключения.

Умные лапочки и розетки, телевизоры, колонки, пылесосы, кондиционеры и чайники — всей их работой нам уже помогают управлять нейросетевые алгоритмы через новые интерфейсы взаимодействия.

5. Нейросети, занятые в серьёзных и повседневных процессах

На нынешнем этапе развития нейросетевых технологий умные дома и умные устройства — простые игрушки, которые, тем не менее, могут послужить нам и в важных домашних делах. Например, сообщить об утечке газа или поработать радионяней, оповестить о событиях на камерах видеонаблюдения.

Но куда серьёзнее используется способность нейросети замечать и сопоставлять тысячи и тысячи неочевидных или малоочевидных взаимосвязей и зависимостей. Медицина, аналитика, экономика, машиностроение, вождение автотранспортных средств и многое другое. Во всём этом нам способны помочь нейросетевые технологии.

Во время распространения COVID-19 нейросетевые алгоритмы уже помогали врачам быстро и качественно диагностировать нарушения в человеческом организме по рентгеновским снимкам.

Моделируют нейросети и мутации вирусов, поражающих человека. Создание моделей — это прогнозирование. Прогнозируя поведение вирусов, нейросети помогают гораздо быстрее создавать вакцины. Такое использование ИИ способно заметно упростить борьбу с новыми и пока ещё неизвестными заболеваниями.

Вообще, прогнозирование — одна из тех задач, с которыми уже неплохо справляются нейросети. Их возможности быстро создавать множества вариаций, а также способности к вычислению уже упомянутых мною неочевидных зависимостей для прогностики незаменимы. У человека всё же нет тысячи жизней, чтобы рассмотреть самому сотни тысяч и миллионы вариантов развития событий и суммировать информацию, проводя параллели и вычисляя зависимости.

Вариации вирусов в неисчислимых количествах, но теперь уже вирусов компьютерных, современная нейросеть также вполне способна генерировать.

Означает ли это, что мы все погибнем от новых болезней — человеческих и компьютерных? Надеюсь, что нет. А вот строить прогнозы и реагировать на угрозы сможем гораздо оперативнее.

Работа по расшифровке генетического кода, вычисление вариантов устойчивых молекулярных соединений и, как следствие, появление новых материалов, финансовое, климатическое и геополитическое прогнозирование, решение других нетривиальных задач — во всём этом нам способны помочь нейросетевые технологии.

Я уверен, что нейросети преподнесут нам ещё множество сюрпризов — ведь они во многом рождены из попыток понять процессы, происходящие с человеческим мышлением. И из тех, что описаны в фантастической литературе, и из тех, которые мы вовсе не ожидаем. Рассчитываю на то, что сюрпризы будут в основном позитивные.

Глава 11. Будущее нейросетевых технологий

Будущее нейросетевых технологий и всего, что мы уже привычно (хотя и не очень верно) называем искусственным интеллектом, наступит достаточно скоро.

В самом конце 2022 года компанией OpenAI был открыт доступ широкому кругу пользователей к третьей версии чат-бота ChatGPT. Именно с этого момента нарастающий интерес к нейросетевым технологиям, уже разогретый нейросетями, генерирующими изображения, превратился в настоящий бум.

Прямолинейные алгоритмы доступны всякому пользователю уже сейчас: от генерации изображений, музыки и текста для различных задач, от написания частей программного кода, простых программ и мобильных приложений до составления учебных программ и расписаний, от поиска проверенного кулинарного рецепта до изобретения нового, от создания дизайна одежды до составления определённой диеты — все возможности применения их перечислить достаточно сложно.

Но даже они, эти возможности, быстро совершенствуются. Именно поэтому необходимо учиться работать с нейросетями, подбирая для себя те из них, которые соответствуют именно вашим запросам и способны помочь в рутинных задачах, а также стать удобным инструментом в различных сферах деятельности.

В то же время специалисты (в частности, российский эксперт в сфере кибербезопасности Андрей Масалович, известный как Кибердед) прогнозируют качественный прорыв, который вскоре можно ожидать и в более сложных нейросетевых системах. Среди таких «более умных» алгоритмов можно назвать сложное прогнозирование и управление ситуациями — от повсеместного распространения автопилотов не только в сельском хозяйстве, но и на обычных дорогах до моделирования сложных систем в строительстве и инженерии; многоязыковые переводы в режиме реального времени с имитацией голоса и интонаций собеседников; более качественное и сложное распознавание людей — по голосам и лицам; подмена голоса и изображения также в режиме реального времени; повсеместное появление электронных дикторов и ведущих на ТВ.

Американские исследователи ИИ из Техасского университета разработали неинвазивную систему искусственного интеллекта, которая может переводить мозговую активность человека в читаемый текст. Проще говоря, тестируется система, уже способная превращать мысли в текст.

На основе нейросетевых алгоритмов в эти дни ведутся активные разработки в области «роевого» применения роботов. Речь, в первую очередь идёт здесь о военных разработках. Рой боевых дронов для военного применения часто выглядит намного более привлекательно, нежели одиночные экземпляры.

Здесь, думаю, для размышления уместно будет привести выдержку из Кай-Фу Ли, тайваньского предпринимателя в области разработок программного обеспечения и искусственного интеллекта. В своей книге (написанной совместно с писателем Чэнь Цюфанем) «ИИ-2041. Десять образов нашего будущего» Ли пишет:

«По моим наблюдениям, сейчас ИИ слаб в трех областях, и в 2041 году картина вряд ли изменится.

1. Творчество. ИИ не может креативить, создавать новые концепции и заниматься стратегическим планированием. Как бы прекрасно он ни справлялся с оптимизацией узких задач, ставить самому себе цели и мыслить нешаблонно он не в состоянии. Комбинировать знания из разных сфер и обращаться к здравому смыслу он также не умеет.

2. Эмпатия. ИИ не может чувствовать сам и каким-либо образом взаимодействовать с чувствами людей. Следовательно, он не подарит человеку ощущение, что его понимают и заботятся о нем. Даже если ИИ разовьётся в данном направлении, то достичь «человеческого» уровня, встать в этом смысле вровень с людьми он не сможет. И людям никогда не будет приятно взаимодействовать с роботами в ситуациях, требующих заботы и участия. Мы называем это «эмоциональным обслуживанием».

3. Ловкость. ИИ и роботы не могут выполнять сложную физическую работу, где необходима быстрота, хорошая координация рук и зрения. ИИ не справляется с неизвестными пространствами без ясной структуры, особенно если не изучал их ранее.

Что это значит для перспектив рынка труда? Профессии, в которых можно обойтись без живого общения — вроде эксперта по оценке страхового ущерба или специалиста по телефонным продажам, — ИИ, скорее всего, поглотит полностью. Но если деятельность шаблонна, и она непременно требует активного человеческого взаимодействия, то люди и ИИ могут сотрудничать, привнося в неё то, в чём каждый силён».

В целом, авторы достаточно оптимистично смотрят на будущее разработок в сфере ИИ. Прогнозы Кай-Фу Ли охватывают перспективу в объёме двух десятилетий. И, скорее всего, прогнозы эти верны примерно так же, как и прогнозы Ивахненко, которые я приводил в начале своего рассказа.

А что же дальше? Вопросы развития нейросетей (а это часть кибернетики) всё-таки неразрывно связаны с вопросами робототехники. В эти дни, когда я пишу эти строки, одна из сложных задач, которые перед собой ставят многие, занимающиеся развитием нейросетевых технологий и построением роботов специалисты, это связь. С одной стороны, для того чтобы в полной мере функционировали нейросетевые алгоритмы — нужны значительные аппаратные мощности, настоящие суперкомпьютеры, позволить которые себе могут лишь крупные корпорации или госучреждения в нескольких странах. С другой стороны, наше представление о роботах и их видение чаще всего рисует нам «настоящего» робота как некий отдельный кибернетический механизм. То есть в данное время построить отдельный, не связанный со стационарным суперкомпьютером ИИ довольно проблематично. Возникает проблема связи или проблема сильной ограниченности и узкой специализации для современной робототехники. Проще говоря, отдельный робот должен быть постоянно на связи с материнской мощной и крупногабаритной системой, или круг выполняемых им задач будет узко ограничен. О перспективах развития глобальных систем связи я уже писал выше.

Добавлю вот какое соображение: не будем забегать далеко вперёд, но, вероятно, перспективы развития квантовых технологий способны создать прорыв в этой области. Совершенствование квантовых компьютеров, скорее всего, позволит физически значительно уменьшить нейросети.

В конце 2023 года соучредитель Google DeepMind Мустафа Сулейман отметил, что перед специалистами стоит задача по созданию чат-бота, который будет делать гораздо больше, чем «просто общаться». Сулейман считает, что сейчас мы находимся в «генеративной» волне — когда пользователь, используя одни данные как вводные, создаёт новые данные. Яркий пример тому — GPT-чаты.

Прогноз специалиста таков: «Генеративный ИИ — это всего лишь этап. Дальше — интерактивный ИИ: боты, выполняющие задачи, которые вы перед ними ставите, призывая другое программное обеспечение и других людей для выполнения задач».

Следующая волна, по мнению Мустафы Сулеймана, — волна интерактивного ИИ: скоро появятся боты, решающие разнородные задачи, которые человек перед ними ставит. Такой «интерактивный бот» будет призывать другое программное обеспечение и других людей для выполнения задач. Пользователь будет задавать общие цели «высокого уровня», а «интерактивный бот» будет использовать множество инструментов для решения задачи. ИИ будет общаться с другими людьми и с другими ИИ.

«Это огромный сдвиг в том, на что способны технологии. Это очень, очень глубокий момент в истории технологий, который, я думаю, многие люди недооценивают. Сегодняшние технологии статичны. Грубо говоря, он делает то, что вы ему говорите. Но скоро технологии будут анимированы. У ИИ будет потенциальная свобода действий, если вы её дадите. То, что мы создаём инструменты, обладающие такой, знаете ли, свободой воли, является настоящим шагом в истории нашего вида», — так обозначил своё видение Сулейман.

Ещё одно перспективное направление развития нейросетевых технологий, о котором пока не очень много пишут и говорят, — это развитие нейронных процессоров или ИИ-ускорителей как специализированного класса микропроцессоров (и сопроцессоров). Такие нейропроцессоры бывают различных видов, но, кратко говоря, все они предназначены для оптимизации работы искусственного интеллекта. Это машинное зрение и перевод, автопилоты с беспилотниками, распознавание устной речи, медицинская диагностика, поисковые системы, умные устройства, робототехника и многие другие области применения моделей ИИ. Резкий скачок в развитии и применении нейропроцессоров специалисты ожидают в ближайшие годы.

Насколько же близко человечество подошло к созданию AGI (Artificial General Intelligence)? Вопрос в том, что мы понимаем под этим термином. Принято считать, что AGI, сильный ИИ общего уровня, должен быть способен справляться с любыми интеллектуальными задачами не хуже человека. Путь к AGI может занять десятилетия, если не случится серии научно-технических прорывов. Но прорывы возможны.

Так или иначе, писатели-фантасты, смотрящие сквозь время и уже более века задающие направление развития (в том числе) прикладной науки, всё так же прогнозируют именно такое направление развития ИИ, при котором будут созданы самостоятельные кибернетические механизмы, не привязанные к «материнскому мозгу» даже системами глобальной связи. Думаю, к этому в итоге человечество и придёт. Если, конечно, раньше какая-нибудь катастрофа вселенских масштабов (также, скорее всего, рукотворная) не откатит современное человечество в «тёмные века», при которых придётся вспомнить не только то, как писать письма на бумаге, но и что означает слово «почта» в своём изначальном смысле.

То, что нас ожидает, зависит во многом от нас самих. Так сторониться нейросетей или использовать их?

Глава 12. Сторониться или использовать?

Специалисты уверяют, что приписывать нейросетям интеллект (по крайней мере многие и основные его свойства) рано, да и в принципе нельзя.

Искусственный интеллект, которым так часто называют сложные машинные алгоритмы, вполне искусственный, но всё же не совсем интеллект. Интеллекту человека присущи качества, которые не сможет сымитировать или повторить машина. Самое простое, что приходит на ум — это человеческая рефлексия. Выйти за пределы ситуации, взглянуть на ситуацию со стороны и вновь погрузиться в неё. Оценить происходящее исходя из неких морально-нравственных принципов, постараться понять «что такое хорошо и что такое плохо» машина сможет лишь на том уровне, на каком её обучат люди. Но человеческий интеллект — не вещь сама в себе и сама по себе. Он — одна из составляющих человеческой природы, свободно мыслящей, пытающейся понять самое себя и окружающий мир, а также своё место и предназначение в этом мире. Технологии, используемые в построении нейросетевых алгоритмов, в какой-то степени копируют процессы, происходящие в человеческом мозгу на физиологическом уровне — на уровне нейронных связей. Но даже как и почему именно так работают эти самые нейроны в человеческом мозгу, современная наука нейрофизиология понимает не полностью. Человеческий мозг похож на вселенную и на квантовый мир одновременно, но и тот, и другой, и третий далеко не изучены человечеством.

Творческая же составляющая — неотъемлемая часть человеческой сущности. Говоря о «творчестве» нейросетей, мы забываем о множестве аспектов. И первым из них мне видится тот, который философы с самого начала ХХ века обозначают термином «квалиа», означающим свойства чувственного опыта. Именно квалиа не только подскажет человеку, что такое «мокро» или «холодно», но и подарит ему ощущения и впечатления, которые он сможет описать как «капли прохладного осеннего дождя на лице вечернею порой». Из таких личностных сенсорных чувственных ощущений во многом и складывается в человеческом сознании картина мира. Не зря известный учёный и один из создателей квантовой механики Эрвин Шредингер напоминал, что «ощущение цвета нельзя свести к объективной картине световых волн, имеющейся у физика». Как раз опираясь в том числе и на квалиа, поэты пишут свои чувственные лирические стихи, писатели рассказывают живые и настоящие истории, художники создают шедевры изобразительного искусства, а музыканты поражают воображение своими неповторимыми композициями.

Здесь хочется вспомнить о замечательной мистической новелле немецкого писателя Пауля Хейзе «Сказка о крови сердца». В ней автор рассказывает о том, что никак иначе невозможно создать по-настоящему талантливое произведение, кроме как написать его «кровью собственного сердца».

Помимо приведённых мною примеров, существует ещё масса других, которые я не буду здесь перечислять, так как считаю, что и двух вполне достаточно для того, чтобы понять, что нейросетевые алгоритмы далеки до человеческого интеллекта и ещё дальше от человеческого творчества. Так что бояться и просто опасаться современных нейросетевых технологий как конкурентов человеку смысла нет.

Если же говорить о самообучаемости и приспособляемости под конкретного пользователя и конкретные задачи, то самообучаемы и самоприспособляемы были многие компьютерные программы, созданные до широкого распространения нейросетевых технологий. Всем известные операционные системы Windows от корпорации Microsoft уже в конце прошлого и в самом начале нынешнего веков умели подстраиваться под нужды и привычки пользователя.

Если человек, занимаясь каким-либо видом деятельности, занимался исключительно компиляциями частей плодов чужого творчества, считая, что он занимается творческими и техническими процессами, именно так решая задачи, которые встают перед ним, то здесь действительно возникает масса проблем. Сервисы, работающие на основе современных нейросетевых технологий, уже успешно решают задачи, основываясь именно на компиляционных алгоритмах действий. То есть, например, если человек, работающий с текстами, занимался исключительно рерайтом (переписыванием чужих текстов с той или иной степенью уникализации), то нейросети вполне способны заменить его труд. Если же человек создавал свой собственный уникальный (в той или иной степени) контент/продукт, то бояться здесь нечего. Разум человека устроен гораздо сложнее любой нейросети, а творческое начало — неотъемлемая часть только и именно человеческой природы.

Любая механическая и рутинная работа несёт в себе риск быть автоматизированной. В том же случае, если деятельность человека — это деятельность в области смыслов и настоящего креатива, то, по моему твёрдому убеждению, человеку, как автору любых смыслов в нашем мире, бояться совершенно нечего. А вот использовать новые инструменты в своей работе, учёбе и творческой деятельности желательно, а порой и просто необходимо.

Как же быстро сориентироваться в современном нейромире, где множество нейросетевых сервисов может стать доступным каждому?

Глава 13. Находим нейросети по вкусу

Я начал это повествование с рассказа о своём интересе к нейросетям. Закончу этим же.

На первом этапе, когда доступных нейросетей было немного, я попробовал составлять списки, распределяя нейросети по навыкам. Сейчас всё изменилось. И нейросетевые технологии стали гораздо ближе к нам и доступнее. Чтобы было проще их найти, можно обращаться к онлайн-каталогам и библиотекам.

Некоторые нейросетевые технологии уже встроены в программное обеспечение, которым мы пользуемся ежедневно. Google, Microsoft, Apple, Яндекс, Сбер и другие IT-корпорации внедрили нейросетевые навыки в своё ПО — в первую очередь в браузеры и умные устройства.

Но чтобы читателям было проще, приведу здесь небольшой список доступных онлайн-каталогов, библиотек и списков, с помощью которых можно ещё глубже окунуться в мир нейротехнологий.

• Aicyclopedia (Более 3000 ИИ-инструментов):

• Каталог нейросетей Ailib (более 1800 нейроинструментов):

• Библиотека AInethub:

• Коллекция нейросетей на AI Collection:

• Библиотека нейросетей Neuroni:

• Каталог нейросетей Neiroai (более 1000 инструментов):

• Каталог AI-ресурсов

• База нейросетей Supertools:

• База нейросетевого инструментария Theresanaiforthat:

Другие полезные и интересные ссылки:

• Курс по промпт-инжинирингу ChatGPT Prompt Engineering:

• Об интеграции ChatGPT и Wolfram:

• Сайт OpenAI с новостями и идеями:

• Сайт Neuralink (нейротехнологическая компания):

• Сайт Google про ИИ с новостями и идеями:

и официальный сайт ИИ Gemini:

• Курс YandexGPT для начинающих на Яндекс Практикум:

• Курс об основах работы с ИИ от СберУниверситета:

• Курс от Т — Ж «Как упростить жизнь с помощью нейросетей»:

• Курсы по изучению ИИ от центра «Сириус»:

Все перечисленные здесь курсы бесплатные (по крайней мере, были таковыми на момент написания книги). Начать можно с простого — выбрать любой из них и таким образом начать увлекательный путь в наступающую нейроэру.