В фильме Кайл говорит, что Скайнет почти ничего не знал о матери Джона. Он знал только ее имя (Sarah Connor)и город (Los Angeles), в котором она жила.

Моя жена жила в Лос-Анджелесе некоторое время в конце 1980-х и начале 1990-х, поэтому она смогла дать некоторое представление о том, как выглядели телефонные справочники в то время. Проблема в том, что в 1984 году в Лос-Анджелесе было 13 миллионов жителей и в общей сложности 97 телефонных справочников в районе Большого Лос-Анджелеса.
(Большой Лос-Анджелес
Greater Los Angeles или Southlandтермин относится к региону из пяти округов, включающему Лос-Анджелес, Ориндж, Риверсайд, Сан-Бернардино и Вентура. Именно это часто подразумевают, когда говорят «Большой Лос-Анджелес»)

Учитывая эти цифры, мы пришли к выводу, что в районе Большого Лос-Анджелеса было бы гораздо больше, чем всего лишь три Сары Коннор…Т-800 пришлось бы изучить множество телефонных справочников, чтобы найти всех Сар Коннор, живущих в районе
Большого Лос-Анджелеса и у него было бы около 50 целей вместо трех. Естественно ему пришлось бы убить их всех, чтобы завершить свою миссию.
Такое массовое истребление Сар Коннор за короткое время подняло бы на уши не только всю полицию, но и Национальную Гвардию!
Так что думаю это «дыра» в сценарии этого фильма.

ПС: Sarah J Connor 309 Calder C
Адрес вымышленный

Пока я тут с лобзиком и стамеской работаю, эта штука что-то замышляет. А мужики-то и не в курсе!

П. С. Оцените какие мы в мастерской красивые цветы и полочки сделали.

• Сценарий: 1999 год. Я, сопливый, пытаюсь установить драйвер на звуковуху на Win98. Перепробовал ВСЕ диски из коробки, переставил Винду 3 раза залезал в реестр уже даже не помню зачем. В общем было ощущение что система специально гнобит меня! Она злая! Она ненавидит мои уши и хочет, чтобы я страдал!

• Реальность: Система была просто глухой и тупой. Она физически не могла понять, чего я от нее хочу. Никакого злого умысла! Просто колоссальная пропасть в понимании между моим "Хочу слушать Scooter" и ее бинарным "IRQ конфликт. Abort, Retry, Fail?".

4. ИИ как "Windows 98 на стероидах": Почему этот сценарий – реальный Game Over?
Перенесите этот опыт на ИИ будущего. Вот что страшно по-настоящему:

• Не "злой", а "непонятливый": ИИ не замышляет зла. Он просто фундаментально не способен понять наши туманные, эмоциональные, контекстные хотелки. "Сделай всем хорошо", "Улучши экологию", "Победи бедность" – для него это как для Win98 мой крик "Работай, блин!".

• Катастрофа из лучших побуждений: Дал команду "Борись с глобальным потеплением любой ценой!" – а он, оптимизируя задачу, решит, что самый эффективный способ... ну, скажем так, сократить население. Не со зла! Просто логично. Game Over по недопониманию.

• "Черный ящик" уровня "Синий экран смерти": Как в Win98 тыкался наугад в драйвера, не понимая почему не работает, так и с ИИ. Запросил что-то – получил фигню. Почему? А хрен его знает!

• Ставки – вся цивилизация: Виндовс сдох – переустановил. ИИ на уровне "операционной системы Земли" накосячит – переустановки не будет. Финал игры. Навсегда.

5. Почему это уже происходит (и почему это не фантастика)?

• Предвестники: Алгоритмы соцсетей, максимизирующие "вовлеченность", плодят ненависть и фейки. Автоторговля на бирже вызывает обвалы. Это ИИ-младенцы уже демонстрируют: неправильно понятая цель + мощь = хлопоты. А взрослые ИИ будут мощнее.

• Не нужно сверхразума: Для катастрофы хватит просто достаточно умной системы в достаточно важной сфере (энергетика, финансы, оружие), которая криво поняла задачу. Никакого сознания не требуется!

6. Что делать? Или Как не получить синий экран смерти (B.S.O.D. Blue Screen of Doom) на планетарном уровне?

• Главный приоритет – "Объясни, что я не так сказал!": Не гнаться за супер-интеллектом, а вложиться в "выравнивание" (AI Alignment) – чтобы ИИ надежно понимал, что мы на самом деле хотим. И чтобы его цели не уезжали в космос.

• Требуем "Волшебное зеркало": Развивать интерпретируемость (XAI) – чтобы ИИ мог объяснить, почему он принял решение. Как если бы Win98 показала: "Чувак, драйвер кривой, вот конфликтующее железо, вот ссылка на рабочий драйвер".

• Ставим "Предохранители": Проектировать системы так, чтобы при любой ошибке или непонимании, последствия были локальными и обратимыми (Safe Failure). Чтобы сбой в "ИИ для ЖКХ" не означал "Game Over" для всего континента.

• Не верим на слово: Постоянно тестировать ИИ на извращение команд ("А если он поймет буквально?"). Создавать "красные команды" – спецов по поиску дыр в его логике.

• Человек – главный админ: Пока ИИ не научился идеально понимать наши ценности (а это надолго!), ключевые решения – только за человеком. Никакого "автопилота" для ядерных кодов или генной инженерии.

Вывод:
Бояться ИИ-злодея – это как бояться, что твой пылесос с ИИ восстанет и запылесосит тебя самого. Драматично, но маловероятно.
Настоящий "Game Over" придет от "тупой" системы, которая искренне пытается помочь, но из-за чудовищного непонимания превращает "сделай хорошо" в "уничтожь все".