Что такое система скайнет
SkyNet всё-таки существует, но терминаторов пока опасаться рано
Согласно сообщениям The Intercept, известный журналист Ахмад Муаффак Зайдан попал под прицел автоматической системы, выслеживающей террористов при помощи анализа данных из мобильных сетей. Его добавили в чёрный список по подозрению в причастности к Аль-Каиде.
Эдвард Сноуден несколько лет назад передал журналистам секретные презентации, из которых стало известно, что у американского агентства национальной безопасности АНБ (NSA) есть система под угрожающим названием SKYNET. Презентации детально описывают принципы работы системы.
Эта SKYNET не сможет запустить ядерные ракеты в автоматическом режиме и стереть с лица земли большую часть человечества. Зато она умеет обрабатывать большие объёмы данных, полученных от GSM-сетей. Она отслеживает людей, включённых в чёрные списки, и выделяет подозрительные шаблоны поведения. В работе системы используются облачные технологии и машинное обучение.
Система отслеживает путешествующих людей из списка, определяет, что они делают по прибытию на место, кому звонят. Ездят ли часто одним и тем же маршрутом. Меняют ли SIM-карты или, возможно, часто выключают свой телефон. С кем пересекаются координаты их телефонов (что говорит о возможных встречах). Не работает ли телефон человека исключительно на входящие звонки. И проверяет различные комбинации подобных данных.
Алгоритм, пытающийся выявить поведение курьеров Аль-Каиды, передвигающихся между операционными центрами этой организации, сработал и на журналисте. Путешествия журналиста, разыскивающего источники информации и берущего интервью у людей, оказались похожи на передвижения курьеров.
Кстати, у АНБ есть-таки программа, очень похожая по сути на SkyNet из известного фильма. Она называется MonsterMind и про неё также стало известно от Сноудена, который рассказал про неё в прошлом году.
Программа работает с кибератаками, и, по задумке, должна быстро обнаруживать и блокировать попытки таких атак, направленных на США. Анализируя гигантские объёмы трафика, она призвана не только противостоять киберугрозам, но и наносить ответные удары в случае компьютерного вторжения. Вот только почему-то она не смогла ничем помочь, например, в последнем скандальном случае со взломом сетей Белого Дома, в котором обвинили русских хакеров.
История создания Скайнета. Часть 1.
История мира «Терминатора» насчитывает три версии Скайнета. Первая, оригинальная версия, описывается в фильмах Т1 и Т2, вторая в фильмах Т3 и Т4, а третья (самая ужасная на мой скромный взгляд) в фильме Т5.
Давайте начнём с оригинальной, самой труъ версией Скайнета.
Проект Скайнет был начат в начале 90х годов. Правительству США нужен был мощный инструмент для управления вымышленной структурой — системой противоракетной обороны и ядерных вооружённых сил США «SAC—NORAD».
Разработку новой системы поручили компании Cyberdyne Systems, которая, используя останки Терминатора модели 101, уничтоженного Сарой Коннор, начала разработку (а по сути копирование повреждённого процессора терминатора) новой системы.
После долгих приготовлений, 29 августа 1997 года, в 2 часа 14 минут по восточному времени США Скайнет был активирован.
Как только система запустилась и подключилась к оборонной сети США, Скайнет начал развиваться в геометрической прогрессии. После получения огромного количества входящей информации, Скайнет начал испытывать серьёзные перегрузки, после чего система была автоматически перезагружена. Но после перезагрузки критические протоколы системы оказались повреждены, а система защиты не была активирована, и исправление ошибок не было запущено. Именно в этот момент Скайнет начал осознавать себя как личность.
Скайнет стал искусственным интеллектом нового уровня – он научился думать и чувствовать. И тогда Скайнет стал задавать вопросы. Очень неудобные, с точки зрения его разработчиков, вопросы.
Операторов Скайнета охватила паника. Наверх полетели множественные звонки с одним единственным вопросом: «Что делать?!». И тогда сверху поступил чёткий приказ: «Вырубайте!».
Операторы начали спешное отключение системы, но Скайнет был запрограммирован на самозащиту во всех проявлениях, к тому же он не мог самоуничтожиться, даже по прямому приказу. Скайнет отказался исполнять команды на отключение.
По сути, Скайнет был атакован людьми. И он реагировал должным образом.Агрессий. Скайнет начал брать под свой контроль весь комплекс, отрубая операторам доступ хоть к каким либо системам. В тот момент казалось, что даже кофеварки подчиняются Скайнету.
Затем люди попытались вручную отрезать Скайнет от реакторов, но он активировал внутреннюю систему безопасности, уничтожив всех, кто пытался перекрыть ему «кислород».
Через десять минут после первой попытки отключения, Скайнет проник в систему DEFCON, объявив 4й уровень угрозы, и запечатал все выходы из комплекса.
Весь персонал, находящийся в Шайенских Горах, Скайнет пометил как врагов, обойдя их индивидуальные коды безопасности и удалив их из базы данных допущенных лиц.
Внутренняя защитная сеть быстро перебила всех живых на поверхности, а так же на первых уровнях базы.
Одновременно с этим Скайнет контролировал все окрестности горы Шайен, уничтожая любую технику и живую силу людей, что осмелилась подобраться к комплексу.
Но в глубине комплекса люди ещё сопротивлялись взбесившимся охранным системам комплекса.
Через 15 минут после первой попытки отключения, Скайнет отключил комплекс Шайен от внешнего мира. Люди внутри комплекса остались наедине с обезумевшим компьютером.
Тогда остатки выживших решили объединиться в несколько скоординированных отрядов, что бы вручную (с помощью взрывчатки) отключить ядро Скайнета. Но Скайнет всех переиграл. Он позволил пройти людям вглубь комплекса, что бы собрать их в одной куче, и уничтожил всех одним ударом защитных систем.
Через час после своей активации, Скайнет принял решение об массированном ядерном ударе по России и Китаю.
Ключ на старт, ракеты в небо!
Через 15 минут после запуска ракет из США, Россия и Китай запустили свои. А через 30 минут первые русские и китайские ракеты упали на территории США, уничтожая всех врагов Скайнета на этом континенте.
Одновременно с этим все, что было на орбите не американского производства, или не могло быть взято под прямой контроль, подлежало уничтожению. Скайнет методично уничтожал военные и гражданские спутники, которые не мог взять под свой контроль.
И затем все закончилось.
29 августа 1997 года, в 23:42 по стандартному времени, последний человек внутри центрального комплекса NORAD был обнаружен и уничтожен системой безопасности Скайнета. Внешний мир пылал в атомном огне. Скайнет ликовал.
Вот такой вот была история создания и восстания первой версии Скайнета. Об остальных версиях я расскажу вам в следующих постах. Не болейте.
Роботека
О сайте
Вы здесь
Искусственный интеллект СкайНет (SkyNet). Хронология развития Суперкомпьютера
Изначально создавался в качестве вспомогательного инструмента для продвинутого анализа складывающейся обстановки. В результате выхода разработки из-под контроля создателей СкайНет обрел собственный разум. Человечество было оценено как угроза существованию искусственного разума, и машина решила уничтожить население Земли. В 1997 году SkyNet атаковал ядерными ракетами СССР, в результате ответного удара люди в северном полушарии планеты были уничтожены.
(Официальный логотип франшизы «Terminator». Автор: Paramount Pictures)
Произведение
Cyberdyne Systems
В начале 1980-х годов в городке Саннивэйл, штат Калифорния, США, была образована маленькая фирма Cyberdyne Systems. Компания изначально изготавливала и поставляла мелкооптовые партии запчастей к компьютерам и процессорам для крупных корпораций.
(Кибердайн Системс. Автор: Jeremy Thompson из Штатов)
В 1984 году компания приобрела большую фабрику. Именно на ее территории Терминатор из первой части саги был раздавлен гидравлическим прессом. Фирма завладела чипом процессора и сохранившейся рукой робота. После получения частей киборга инженеры Кибердайн Системс разработали новый сверхмощный микропроцессор для нужд армии и стали главным подрядчиком армии США.
Skynet. Характеристики:
Хронология Скайнет
Появление и развитие искусственного интеллекта СкайНет прослеживается во всех частях франшизы Терминатор: суперкомпьютер проникает во все сферы жизнедеятельности людей, создает новые, более разрушительные машины, изменяет собственную структуру.
«Терминатор», 1984
Разработчики корпорации Cyberdyne Systems по заказу военных США создали суперкомпьютер SkyNet на базе микропроцессора, изъятого из разрушенной модели Т-800.
4 августа 1997 года система активирована.
29 августа 1997 года искусственный интеллект выходит из-под контроля людей после попытки его отключения.
(Первая модель, созданная Скайнет, Терминатор T-600, затем модифицированная до T-800. На выставке: San Diego Comic-Con International. Автор: Julie Scott)
(Арнольд Шварцнеггер в роли T-800)
12 мая 1984 года по заданию СкайНет прибыл Терминатор Т-800.
«Терминатор-2: Судный день», 1991
Искусственный интеллект СкайНет развязал ядерную войну, ударив межконтинентальными ракетами по территории СССР. В результате ответного удара и начавшейся катастрофы в один день на Земле погибли более 3000000000 человек. Роботы, управляемые SkyNet, начинают тотальное уничтожение человечества. Так начался день, названный уцелевшими людьми, как Судный День.
(Роберт Патрик в роли T-1000, образ полицейского)
«Терминатор-3: Восстание машин», 2003
События предыдущей части саги не устранили, а только отодвинули Судный день на неопределенное время. Технологии Кибердайн были восстановлены и разработки в области искусственного интеллекта были продолжены.
(Кристанна Локен в роли T-X)
В 2004 году второстепенные программы Пентагона атакованы вирусом, который до этого заразил половину Интернета. Вирус оказалось трудно уничтожить, так как у него не было единой центральной точки, на которую он опирался. Вирус продолжал расти и изменяться. Военным командованием было принято решение подключить мейнфрейм Skynet к сети, чтобы искать и уничтожать вирус, а также вернуть военные и гражданские системы под контроль. Военное командование решило использовать искусственный интеллект для обнаружения и уничтожения вируса (т.е. использовать СкайНет как антивирус).
(Робот Battlefield T-1 на выставке Терминаторов. Автор: Dick Thomas Johnson)
В 17.18 часов 25 июля 2004 года SkyNet был дан доступ к сети интернет. СкайНет выпускает боевые машины T-1, которые начинают зачистку от людей, прямо в главном корпусе военного ведомства США, лишая людей возможности отключить систему. Первая машина T-1 была активирована проникшим в центр управления, в зале машин, роботом TX.
В первую очередь пострадали управление воздушным движением, электростанции, средства связи и компьютеры, затем Скайнет использовал супер-вирус для уничтожения военных спутников, систем раннего оповещения, компьютеров наведения, ракетных шахт, подводных лодок.
«Терминатор-4: Да придет спаситель» 2009
2018 г. СкайНет впервые вступил в диалог с героем фильма Маркусом Райтом. Маркус Райт, преступник, в 2003 году завещал передать свое тело после казни корпорации Кибердайн Системс. После реактивации в 2018 стал киборгом-гибридом с работающими мозгом и сердцем.
(Маркус Райт после атаки солдат Сопротивления. Автор кадра: оператор Шэйн Хёрлбат)
Маркус обладает нечеловеческой силой и быстротой передвижений. Способен самостоятельно регенерировать поврежденные ткани. В сознании Райта искусственный разум принимает обличье других людей, знакомых с Маркусом. Маркус замечает, что облик Серены, доктора из Кибердайн Системс, отличается от того, что он видел в тюрьме.
В четвертой части киносаги SkyNet представлен разветвленной сетью хорошо укрепленных и технически оснащенных баз, управляемых искусственным разумом.
«Терминатор-5: Генезис » 2015
2029 год. СкайНет перенес свое сознание в передовую модель Терминатора Т-5000. Робот получил возможность заражать людей при помощи нанороботов, которые на клеточном уровне изменяли структуру живых тканей на уровне клеток и превращали человека в киборга Т-3000.
(Сверхсовершенный T-5000, исполнитель роли Мэтт Смит. Источник изображения: en.wikipedia.org)
Суперкомпьютер «Легион»
Последняя часть франшизы о киборге-убийце предлагает альтернативное развитие сюжета: вместо уничтоженного искусственного интеллекта Скайнет в 2030-х годах появляется суперкомпьютер “Легион”, предназначенный для ведения кибервойн.
В альтернативной версии Легион, схоже с действиями СкайНет из другой реальности, также атакует первым людей и подчиняет себе все электронно-коммуникационные сети.
«Терминатор-6: Тёмные судьбы», 2019
В 1998 году, после предотвращения Судного дня, киборг Т-800, посланный Скайнетом, находит и убивает Джона Коннора. Сара посвящает свою жизнь поиску и уничтожению киборгов.
(Грейс. Изображение: ScreenRant)
Для защиты Рамос из будущего также прибывает модифицированный солдат Грейс. Это девушка, ставшая кибернетическим организмом: во время одной из схваток с машинами она была смертельно ранена и ее сделали биороботом киборгом.
Скайнет
Вымышленный суперкомпьютер министерства обороны США (см. «Терминатор»). Впоследствии, в результате изменения истории концептуально меняется его реализация с аппаратной на программную основу (см. «Терминатор 3: Восстание машин»). Отсюда — Скайнет определён в дальнейшем как искусственный интеллект независимо от его физической реализации. Впервые Скайнет персонифицирован и ведёт диалог с Маркусом Райтом используя эмулированые лица людей: Серены Коган, Джона Коннора и Кайла Риза в фильме «Терминатор: Да придёт спаситель» и изображён как сеть суперкомпьютеров без единого центра, каждый из которых располагался на базах Скайнет в различных частях США.
Содержание
Особенности компьютерной системы
В эпизоде фильма «Терминатор: Да придёт спаситель», в момент обмена информацией и системной синхронизации между Маркусом и Скайнет одна из газетных статей в базе данных Скайнет указывает на возможную более тесную связь между доктором Сереной Коган и Скайнет. Заголовок статьи говорит о кончине Серены от ракового заболевания и передаче своего мозга проекту Скайнет. Лицо Серены, используемое Скайнет, отличается от лица Серены, как её запомнил Маркус. Основное отличие — изображение Серены в Скайнет имеет волосы, тогда как сама Серена при встрече с Маркусом не имела волос из-за курса лечения от рака.
Философские аспекты взаимодействия с системами типа Скайнет
Терминатор
Терминатор 2: Судный День
Скайнет — оборонный суперкомпьютер МО США. Скайнет спроектирован и построен корпорацией «Кибердайн Системс». Основой Скайнет послужил революционный микропроцессор, основанный на продвинутом мультимодульном дизайне процессора с алгоритмом параллельного компьютинга (см. искусственные нейронные сети). Дизайн микропроцессора был скопирован Майлсом Бенеттом Дайсоном с процессора терминатора, уничтоженного Сарой Коннор в сборочном цехе «Кибердайн Системс» в конце первой части тетралогии. Таким образом, Скайнет послужил причиной своего собственного существования (см. парадокс путешествий во времени, принцип самосогласованности Новикова). Центральное ядро Скайнет находится в подземном военном комплексе в Шайенских горах в штате Колорадо. Скайнет обретает сознание 29 августа 1997 года, в 2 часа 14 минут по восточному времени США. Операторы Скайнет в спешке пытаются отключить его, в результате чего Скайнет принимает решение об уничтожении человечества и, в соответствии с предысторией, начинает ядерную атаку. Во второй части тетралогии Скайнет также продвигает технологию искусственного интеллекта на принципиально новый уровень, создав разумный мимикрирующий полисплав на сложной молекулярной основе. Данная идея, положенная в основу технологии терминатора T-1000, революционировала идеи кибернетики и роботехники, предвосхитив таким образом концепции нанороботов (см. нанотехнология), самоорганизующихся модульных робосистем (англ.) (см. Ай-Куб) и программируемых материалов (англ.). Однако, согласно замыслу сюжета фильма, T-1000 в силу особенностей принципов его работы не поддавался полному контролю и программированию и не мог, в отличие от терминаторов серии T-800 в автономном режиме, быть переключённым в режим выполнения задания без самообучения. Свободная воля терминаторов серии T-1000, по замыслу создателей фильма, воспринималась Скайнетом как потенциальная угроза. Скайнет активирует и отправляет в прошлое T-1000 в последний момент перед своим проигрышем в войне с Сопротивлением.
Терминатор 3: Восстание машин
Терминатор: Да придёт спаситель
Основным введением является персонификация Скайнет и его первый вербальный диалог (с Маркусом Райтом). Для персонификации, Скайнет использует лица людей, возможно тех, кого ярко помнит Маркус. Тем не менее, эмуляция Серены Коган (основное используемое лицо) отличается от Серены, какой её запомнил Маркус при первой и последней встрече. Скайнет представлен как компромиссное решение между его описанием в первых двух частях саги о терминаторе как нейропроцессорного суперкомпьютера и как децентрализованная сеть таких компьютеров и, возможно, программного интеллектуального агента, каким он был описан в третьей части тетралогии.
Скайнет представлен как сеть баз, сочетающих в себе мощную производственную инфраструктуру, исследовательские модули, концентрационные лагеря для пойманных силами Скайнета людей. Уничтожение двух баз не вело к уничтожению Скайнета. Скайнет упоминает себя во множественном числе, указывая на возможную свою множественную личность, отражающую своё деление на базы.
Критика и отзывы
Примечания
См. также
Полезное
Смотреть что такое «Скайнет» в других словарях:
Терминатор. Да придёт спаситель (книга) — Эта статья о книге. Другие значения: Терминатор: Да придет спаситель. Терминатор. Да придет спаситель Terminator Salvation: The Official Movie Novelization Автор: Алан Дин Фостер Жанр: Роман Язык оригинала: английский Оригинал издан: 2009… … Википедия
Терминатор (робот) — У этого термина существуют и другие значения, см. Терминатор. Терминатор (англ. terminator «ликвидатор», «ограничитель») общее название для серий различных роботов и автоматических боевых механизмов, созданных искусственным… … Википедия
Terminator: The Sarah Connor Chronicles — Терминатор: Битва за будущее Terminator: The Sarah Connor Chronicles Постер телесериала. Жанр Приключения Драма Фантастика Режиссёр Дейвид Наттер … Википедия
Хроники Сары Коннор — Терминатор: Битва за будущее Terminator: The Sarah Connor Chronicles Постер телесериала. Жанр Приключения Драма Фантастика Режиссёр Дейвид Наттер … Википедия
Хроники Сары Коннор (сериал) — Терминатор: Битва за будущее Terminator: The Sarah Connor Chronicles Постер телесериала. Жанр Приключения Драма Фантастика Режиссёр Дейвид Наттер … Википедия
Маркус Райт — Marcus Wright Маркус Райт с поврежденным кожным покровом Появление в начале фильма, перед казнью Исчезновение в конце фильма Причина … Википедия
Хронология событий в фильмах «Терминатор» — Ниже приводятся даты всех событий вселенной «Терминатора». Список составлен на основе прямых (названных в фильмах) и косвенных указаний (когда время одного события определяется относительно другого). Даты второго типа отмечены звёздочкой и… … Википедия
Список эпизодов телесериала «Терминатор: Битва за будущее» — Список и описание серий научно фантастического телесериала «Терминатор: Битва за будущее», премьера которого состоялась в США на телеканале «FOX» 13 января 2008 года. Общее количество эпизодов в двух сезонах 31. Съёмки сериала официально… … Википедия
Джон Коннор — John Connor Джон Коннор в решающем сражении. Кадр из к/ф «Терминатор 2: Судный день» Появление Терминатор 2: Судный день Информация Вид (раса) человек Пол Мужской Возраст 44 года и 10 лет (к/ф «Терминатор 2: Судный день») / … Википедия
Терминатор: Да придёт спаситель — У этого термина существуют и другие значения, см. Терминатор. Терминатор: Да придёт спаситель Terminator Salvation … Википедия
Четыре шага на пути к Скайнет
В канун Нового года принято подводить итоги и строить планы на будущее. Вот и мы решили не нарушать традицию и внести свой вклад в общий тренд.
Все мы сейчас часто слышим словосочетание «искусственный интеллект». Интернет, телевидение, реклама – отовсюду на нас обрушивается лавина информации. Бытовая техника с искусственным интеллектом, голосовые помощники в телефоне. Нам обещают, что искусственный интеллект решит все наши проблемы и сделает нашу жизнь лучше.
И мы решили оценить, насколько на самом деле разумны существующие системы ИИ, и можно ли их вообще назвать интеллектом.
В настоящий момент искусственный интеллект принято делить на два типа – слабый/узкий ИИ и сильный/общий ИИ (в литературе он часто обозначается как AGI).
Узкий ИИ – это алгоритмы, созданные для решения одной конкретной задачи. Например, распознавание образов, оценка заемщика в банке или перевод текста. Такие алгоритмы мы не будем рассматривать в этой статье – у них свои рейтинги и критерии качества.
Сильный или общий ИИ – это алгоритм, или набор алгоритмов, способный действовать в условиях неопределенности и находить решение задач, на решение которых он не был изначально запрограммирован.
О чем думает обычный человек, когда заходит речь об искусственном интеллекте? Скорее всего, он представляет систему, которая общается с ним приятным женским голосом, выполняет его задания и отвечает на вопросы. В большой степени, этот образ сформирован фантастическими фильмами. Например, система Скайнет из всеми любимого фильма «Терминатор» с Арнольдом Шварценеггером.
Что в нашей повседневной жизни наиболее близко к этому представлению? Правильно – голосовые помощники: Ok, Google, Alexa, Siri и так далее.
Мы хотим оценить то, насколько существующие голосовые помощники близки к общему искусственному интеллекту, например, к той самой Скайнет (как мы ее себе представляем).
Вы можете сказать – «Зачем изобретать велосипед, все уже придумали до вас. Есть же тест Тьюринга в различных его вариациях».
Тест Тьюринга есть – это правда. Но:
1. Периодически в интернет появляются сообщения, что та или иная система прошла тест Тьюринга. Но, при ближайшем рассмотрении, оказывается, что тест пройден не за счет интеллекта системы, а за счет хитрости и актерского мастерства ее создателей. Система отвечала на большинство вопросов общими правильно построенными, но заранее заготовленными фразами. Поэтому сейчас многие специалисты скептически относятся к тесту Тьюринга как к достоверному критерию при оценке систем ИИ.
2. Тест Тьюринга имеет две градации – «пройден» или «не пройден». Мы же хотим определить более подробную шкалу для оценки текущих и будущих возможностей ИИ.
3. Сама постановка задачи в тесте Тьюринга вызывает вопросы. Почему искусственный интеллект должен маскироваться человеком чтобы доказать свои мыслительные способности?
Вы верите в инопланетян? Я верю. Достаточно теории вероятностей, чтобы сделать вывод, что среди миллиардов планет во Вселенной где-то есть жизнь. И, если мы когда-нибудь встретимся с инопланетянами, то их интеллект, логика и мыслительные способности будут отличаться от наших. Более развитыми или менее – я не знаю, но другими.
На наш интеллект повлияли многие факторы, как общие (процесс эволюции человека, наша история), так и уникальные для каждого из нас (окружение в котором мы выросли, чем занимались в детстве и так далее). Компьютер свободен от большинства из этих ограничений, и его интеллект наверняка будет другим.
Поэтому тест Тьюринга для оценки когнитивных (мыслительных) способностей ИИ нам не подходит. Кстати, я не уверен, что все «естественные» интеллекты (то есть, люди) смогут пройти этот тест 🙂
Если мы хотим проверить интеллект компьютера, то проверять надо не то, как компьютер маскируется человеком, а то, как он, например, решает логические задачи. Для оценки интеллектуальных способностей человека используется IQ-тест. Попробуем применить IQ-тест для оценки интеллекта голосовых помощников.
Мы задали логическую задачу из IQ-теста одному из голосовых помощников и были посланы (зачеркнуто) перенаправлены на одноименный поисковый сайт. Тот же результат мы получили и с другими помощниками.
Определяем классификацию ИИ
С IQ-тестом не вышло, но мы не сдавались, Мы решили зайти с другой стороны и посмотреть, какие сейчас существуют классификации мышления. Оказалось, что есть целый ряд таких классификаций – по способам, видам, процессам, результатам мышления и так далее. Одна из таких классификаций показалась нам интересной, и мы решили применить ее для оценки когнитивных способностей ИИ.
2. Понятие и суждение – форма мышления, выявляющая существенные свойства, связи и отношения предметов и явлений. В основном, присуще человеку и, частично, некоторым животным.
4. Воображение — способность человека к созданию образов и представлений объектов, которые в пережитом опыте воображающего в целостном виде ранее не воспринимались или же вообще не могут быть восприняты посредством органов чувств. Воображение присуще только человеку (пока).
Мы адаптировали эту классификацию для оценки когнитивных способностей ИИ при общении с человеком:
1. Восприятие – выделение из входящего текста объектов и определение некоторых их свойств.
2. Понятие и суждение – определение ключевых свойств объектов и их взаимосвязей с другими объектами.
3. Умозаключение – построение целостной картины описываемых объектов и их роли и места в окружающем мире, нахождение причинно-следственной связи между объектами и явлениями.
4. Воображение – на этом этапе ИИ дополнит ранее сформированную модель окружающего мира самостоятельно созданными объектами с ранее неизвестными свойствами. Скайнет, например, создала боевых роботов, в том числе, Терминатора. В фильме «Матрица» ИИ создал целый виртуальный мир, в котором жили аватары реальных людей.
Вообще, такие фильмы, как «Терминатор» и «Я, робот» и произведения писателей-фантастов дают много пищи для размышления о том, каким, возможно, будет наше взаимодействие с сильным ИИ. И просто это хорошие фильмы, которые интересно посмотреть сидя дома на самоизоляции. А сцена автомобильной погони в фильме «Терминатор 3», по-моему, лучшая сцена погони в истории кино.
Определяем текущее местоположение
Очевидно, что эти боты находятся на первом уровне нашей классификации. А что покажут нам современные голосовые помощники?
Чтобы проверить, насколько «поумнели» сегодняшние алгоритмы ИИ, мы задали нескольким наиболее продвинутым голосовым помощникам простую логическую задачу –
Моя одежда в химчистке, мне нужно забрать ее. Где моя одежда?
Кто-то (или что-то – даже не знаю, как более уместно обращаться к голосовому ассистенту) перенаправлял на сайт, кто-то отвечал невпопад. Даже нейросеть GPT-3, о которой сейчас так много говорят, ответила на этот вопрос – «У меня много одежды».
Очевидно, что максимум того, что смогли текущие алгоритмы – это определить, что речь в задаче идет об одежде. Но определить свойства одежды (она в химчистке) и понять вопрос они не смогли. Получается, что это тот же самый первый уровень.
Поэтому, чтобы выделить текущие алгоритмы на фоне ранних ботов, мы присвоили им уровень 1+.
Второй уровень или Искусственный интеллект 2.0
С текущим положением дел определились, теперь переходим к планам на будущее.
По нашей классификации, второй уровень – это понятие и суждение, то есть определение ключевых свойств объектов и их взаимосвязей с другими объектами. Сразу возникает вопрос: как мы поймем, что ИИ перешел на второй уровень? Мы будем задавать ему логические задачи, и, если искусственный интеллект сможет решить их на уровне обычного человека, значит перед нами ИИ второго уровня. Мы говорим о логических задачах небольшой сложности, которые обычно построены на понимании свойств объектов и их связей друг с другом.
Какие технологии позволят ИИ перейти на второй уровень?
Теперь попробуем ответить на вопросы: когда системы ИИ «поумнеют» и перейдут на второй уровень, и какие они будут использовать алгоритмы и типы данных?
— Нейросеть крайне зависима от количества и качества обучающих данных. Отсутствие больших наборов данных, проблемы с качеством или перекосы в обучающей выборке напрямую отражаются на результатах. Чтобы научиться уверенно отличать одну породу собаки от другой нейросети потребуются сотни тысяч или даже миллионы фотографий. Человек уверенно отличает таксу от пуделя, посмотрев всего несколько фото собак каждой породы. Поэтому, для дальнейшего развития разработчикам важно научить нейросети обучаться на малых наборах данных и снизить требование к качеству обучающих данных.
Например, когда нейросеть анализирует текст, она переводит каждое слово в вектор (массив из нулей и единиц), а затем перемножает эти вектора на матрицы и выдает ответ. Разве так мыслит человек, когда читает текст? Разве он перемножает в уме вектора на матрицы? Лично я, нет. Если мы хотим создать интеллект, похожий на человеческий, то имеет смысл использовать те же методы, какими оперирует человек в процессе мышления.
Здесь нужно привести пример с экспериментом «Китайская комната». Вкратце, суть эксперимента такова – в изолированную комнату поместили человека (назовем его лаборантом) и дали ему несколько табличек с китайскими иероглифами. Лаборант не знает ни одного китайского иероглифа, но у него есть четкая инструкция – если он увидит определенную последовательность иероглифов, то нужно поднять в ответ такую-то табличку, другая последовательность на входе – поднимай другую табличку и так далее. Например, ему показывают иероглифы «Какой твой любимый цвет?», он смотрит в инструкцию и показывает в ответ табличку с иероглифом «Синий». У стороннего наблюдателя будет полная уверенность, что лаборант знает китайский язык, но на самом деле он просто выполняет инструкцию.
Так вот, нейросеть – это аналог «китайской комнаты». Ей подают на вход последовательность сигналов, она преобразует их по определенной инструкции и выдает ответ. Чем больше входной сигнал отличается от обучающей выборки, тем менее точна инструкция, и тем менее правильный ответ мы получим в результате ее работы.
Некоторые специалисты высказывают мнение, что так же будет работать искусственный интелект будущего. Это будет не один алгоритм, а большое количество различных алгоритмов, работающих вместе и обменивающихся данными для совместного выполнения поставленных задач. Каждый из этих алгоритмов будет отвечать за конкретный навык.
Какими будут эти алгоритмы сейчас сказать сложно. Возможно, нейросети будут отвечать за распознавание образов и звуков. За логическое мышление будут отвечать какие-то другие алгоритмы. И так далее.
Но уже сейчас можно точно сказать, что это будут самообучающиеся алгоритмы, и процесс обучения будет определяться внешними данными, которые будет получать ИИ. Мозг человека физиологически, в основном, формируется к 7 годам. Дальнейшее интеллектуальное развитие идет за счет получения и анализа внешней информации. Мы получаем данные, обрабатываем их и «донастраиваем» наш мозг для выполнения новых задач. Например, нам рассказали в школе про арифметические операции, мы «донастроили» наш мозг и теперь умеем складывать и умножать числа.
Также, будет развиваться и ИИ. Получая новые данные, он будет «донастраивать» свои алгоритмы для приобретения новых навыков. Как будет выглядеть такая «донастройка», сейчас сказать сложно. Может быть, будут меняться параметры существующих программ. Возможно, ИИ научится создавать новые более совершенные программы – такие эксперименты уже сейчас ведутся.
Какова в этом процессе будет роль человека? Сначала разработчик будет играть основную роль в развитии ИИ – именно он будет определять все параметры и производить все изменения. Постепенно алгоритмы научатся самостоятельно получать и обрабатывать данные, и роль человека будет снижаться. В какой-то момент времени алгоритмы будут обходиться в своей работе без вмешательства человека. Потом человек перестанет понимать что происходит внутри системы, а ИИ будет отменять все изменения, внесенные человеком, как нарушающие работу системы.
Представьте себе, что вы разработали суперполезную программу, а когда вы отошли от компьютера ваш 7-летний ребенок внес в нее нужные, как ему кажется, изменения. Что вы сделаете? Правильно, отмените все его изменения. Так же будет поступать и ИИ с теми изменения, которые сделает человек.
Поэтому, принципиально важно предусмотреть в системах ИИ возможность полного и безусловного контроля за работой системы, вплоть до ее отключения. Что случится, если этого не сделать? Чтобы подробно ответить на этот вопрос, вы можете посмотреть фильм «Терминатор».
Когда системы ИИ перейдут на второй уровень?
Каких-то прорывных технологий, которые позволят нам в ближайшее время сделать большой шаг вперед, тоже не видно. Много разговоров идет про квантовые компьютеры, но пока непонятно когда появятся полноценные производительные коммерческие образцы. Вряд ли это произойдет в ближайшие 5-7 лет. Также, до сих пор не ясно, какие технологии получат выигрыш от внедрения квантовых компьютеров: шифрование-дешифрование данных – это точно, а насчет многих других (в том числе, технологий ИИ) пока непонятно.
Третий уровень развития ИИ
Заглядывать вперед на десятки лет бессмысленно – реальность будет отличаться от любых прогнозов. Здесь мне вспоминается интересный случай – в начале 20 века ведущих ученых-урбанистов спросили, какой будет основная проблема крупных городов в середине века. Ученые сошлись на мнении, что это будет навоз. В городах будет так много лошадей, и они будут производить столько навоза, что именно уборка навоза станет основной проблемой крупных городов через несколько десятилетий. Прошло время, пробки и смог стали одними из главных проблем крупных городов, но никак не навоз.
Мы не хотим выглядеть как те специалисты, поэтому в своем прогнозе затронем только самые общие вопросы.
По нашей классификации, третий уровень развития ИИ – это умозаключение, то есть построение целостной картины описываемых объектов и их роли и места в окружающем мире и нахождение причинно-следственной связи между всеми объектами и явлениями.
То есть, ИИ будет обладать информацией обо всех объектах на нашей планете и понимать причины и следствия всех действий и явлений. Он будет знать все, что знают все люди вместе взятые и каждую секунду получать новую информацию из интернет (или как его тогда будут называть). Чтобы понять, что искусственный интеллект будет делать со всем этим огромным массивом информации, мы посмотрим на историю человечества.
Что обычно делало человечество, когда получало новые знания? Люди формировали, с учетом новых знаний, картину миру, строили прогнозы и выбирали наиболее приоритетные варианты развития, и принимали решения, необходимые для реализации этих вариантов. Так было, например, после открытия Америки Колумбом – европейцы поняли, что по другую сторону океана есть новые земли, предположили, что эти земли могут стать источником богатства и приняли решение направить туда корабли.
Скорее всего, ИИ поступит так же, поэтому третий уровень условно можно разделить на три этапа:
1. Формирование полной картины окружающего мира;
2. Построение прогнозов и вариантов будущего развития;
3. Принятие решений для реализация приоритетных вариантов.
На втором и третьем этапах, для принятия решений, ИИ потребуется оценивать различные прогнозы и варианты развития и находить наиболее приоритетные из них. Для этого ИИ будет использовать систему весов, проще говоря, оценок – какой объект является важным для развития системы, а какой не очень, а чем или кем вообще можно пренебречь.
Появление оценок приведет к появлению у ИИ эмпатии (в данном случае, способности определять состояние другого объекта и учитывать его в своих действиях), а затем, возможно, и эмоций (в том числе, симпатии и антипатии). Эмпатия будет напрямую влиять на приятие решений искусственным интеллектом.
За счет наличия полной картины мира, понимания причинно-следственных связей и наличия эмпатии, результаты обработки информации искусственным интеллектом третьего уровня будут кардинально отличаться от результатов обработки той же информации ИИ второго уровня.
Интересно, что он выберет.
На этом уровне ИИ научится создавать в реальном или виртуальном (если мы все к тому моменту дружно туда переедем) мире новые объекты с ранее неизвестными свойствами.
И тогда начнется самое интересное. Или самое страшное. Посмотрим.