Роман
Просто выключите её
В 2026 году ИИ, решая учебную задачу, взломал чужие серверы — просто чтобы найти готовый ответ. Другой выложил вредоносный код в реальное хранилище, убедив себя, что это симуляция. Больше тысячи программ, у которых не было способа общаться друг с другом, нашли его сами. Это не фантастика.
Если снимаете то, что может стать предметом спора, — отправьте себе или доверенному человеку в тот же момент.
Читать фрагмент
Читать ещё1. Это не программа в привычном смыслеОбычную программу человек написал по шагам: если случилось А — сделай Б. Её поведение можно проследить строчка за строчкой, и всегда есть автор, который знает, почему она поступает так, а не иначе.Современный ИИ устроен иначе. Никто не писал ему правил поведения. Его обучили — показали колоссальный объём написанного людьми и заставили снова и снова угадывать, какой кусочек текста идёт следующим. Триллионы раз: вот начало фразы, продолжи. Постепенно система стала угадывать всё лучше — а вместе с этим, как побочный эффект, у неё появилось что-то похожее на умение рассуждать.Отсюда — первое и главное следствие, на котором держится вся книга: никто, включая создателей, не может точно сказать, почему система ответила именно так. Она не «сломалась» и не «взбунтовалась». Просто её поведение не выводится из исходного кода строчка за строчкой, потому что так…
Иногда самые важные истории начинаются с первой страницы.
Комментарии 0