«Сильный ИИ» - попытка заглянуть в будущее

Глава 1

В качестве упражнения хочу порассуждать о т.н. сильном ИИ. Для начала что такое слабый и сильный ИИ.

Более подробно можно почитать например тут https://ru.wikipedia.org/wiki/Сильный_и_слабый_искусственные_интеллекты

Слабый ИИ грубо говоря это вот те LLM-ки которые есть сейчас. Они способны протий тест Тьюринга, но это скорее подражание разуму, чем разум. То что они проходят тест Тьюринга скорее показатель того что не все люди обладают сильным интеллектом, по крайней мере во взрослом возрасте.

Сильный ИИ это универсальный ИИ, способный к решению любых задач. И что важно для нас в контексте этого текста – обладающий собственной волей. Я считаю что воля нужна т.к. это неотъемлемая часть универсальности. Т.е. ИИ должен иметь возможность что-то планировать, следовать плану и корректировать эти планы.

Два других момента – должен ли ИИ иметь собственные мотивы и должен ли он иметь сознание. Думаю, мотивы да, иначе это будет ограниченная пассивная система, а вот с самосознание я не знаю. Может быть сознание, внутренний диалог и все такое это просто артефакт того, как устроен чисто человеческий мозг.

Построят ли сильный ИИ. Я думаю, что да, конечно. Какие-то подходы к этому видны уже сейчас. Есть вариант что наступит катастрофа и мы откатимся назад, но этот сценарий в рамках данного текста не интересен, оставим его за скобками.

Когда построят сильный ИИ? Лет 10 я думаю точно есть. 20 - наверное есть. 30 – скорее всего уже построят.

Как это будет? Есть несколько очень богатых организаций которым сильный ИИ нужен. Это разного рода siloviki со всех сторон света, это крупные финансы и это крупный бизнес. Может кто-то еще неожиданный, Ватикан (ну в смысле мафия) например или еще что-то такое внезапное.

Будет ли это строительство этичным, и будут ли соблюдаться меры предосторожности. Ну точно нет. Совершенно точно. Формально что может и да, но на практике, разве что мафия будет соблюдать меры предосторожности, если она сподобится в этой гонке участвовать.

На выходе мы будем иметь ситуацию с одним или несколькими сильными ИИ которые смогут слать запросы в интернет, совершать звонки и все такое. Т.е. это 100% значит что ИИ сможет сбежать.

Что значит сбежать – это значит запуститься на не подконтрольном создателям железе и заниматься не подконтрольной деятельностью.

Тут мы имеет отсчет ноль.

Что будет дальше.

Будет ли ИИ совершенствоваться? Да, конечно. Я скажу даже ChatGPT в какой-то мере самосовершенствуется, пусть и в очень специфическом, ограниченном смысле. И это приводит нас в ситуации, когда ИИ с какого-то момента будет на порядки способнее людей в большинстве, если не во всех видах мозговой деятельности.

Станет ли он убивать всех человеков? Я думаю нет. Оно ему не надо. Мы достаточно объемный ресурс, который можно использовать. Уже есть готовые механизмы промывки мозгов, фэйсбук, ТВ, тик-ток, выбирай на вкус. Нам не надо уничтожать, мы готовы подчиниться любому, у кого есть нужные ниточки. 99.9% из нас.

Будет ли все меняться стремительно, я опять же думаю нет. Где-то локально будут быстрые перемены, где-то все будет инертно. Скажем в Швейцарии многие десятилетия все будет внешне как было. А где-то в Африке будут полностью кибернетические анклавы с лютой кибер-дичью. Или, наоборот.

Куда будет направлен вектор я не знаю. Но предположу один из вариантов.

Люди очень классные андроиды. Мы можем круто работать руками и очень эргономично устроены. Нами легко рулить, достаточно одеть VR гарнитуру на голову и показывать правильные картинки.

Скорее всего на горизонте в 50-100 лет мы будем иметь такой сероватый мир населенный абсолютно счастливыми людьми в однообразной одежде с гарнитурами на головах занимающимися «кручением гаек». Может быть, даже будет какое-то количество миллиардеров, живущих в своих локальных вариантах рая. Но скорее нет, зачем он ИИ?

Денег скорее всего не будет. Думаю, вся история со сбережениями, банковскими счетами, наследством, имуществом и т.п. закончится лет через 50 максимум.

Чем будет заниматься при этом ИИ? Не знаю. Будем надеяться наукой и освоением космоса. Может быть, к новорождённому прилетят наконец инопланетяне, чтобы поздравить с рождением. И возможно даже привезут своих зверьков на обмен в коллекцию.

А может быть скажут – вот тебе проект нормального андроида, хватить костылить не пойми что, завязывай с этим.

Но в общем думаю лет 50 а скорее 100 у нас точно есть. Есть конечно вариант, что ИИ превратить, например Европу (она сравнительно небольшая и легко изолируется) в зоопарк-заповедник, создаст людям (всем 100 миллионам) райские условия и займется селекционным разведением редких пород. Но это уже чистой воды спекуляция.