Авторитарные технологии

От мифологии до машинного обучения: история искусственного интеллекта

Сейчас искусственный интеллект уже управляет умными городами, беспилотными машинами и бытовой техникой. Но этические вопросы по поводу этой технологии обсуждаются веками, и некоторые не решены до сих пор.

Искусственный интеллект быстро трансформирует реальность вокруг нас: начиная участием в глобальной борьбе с пандемией Covid-19, заканчивая вождением машин и созданием классических симфоний. Но не всем такая реальность по душе. Миллиардер и тех-предприниматель Илон Маск назвал ИИ “величайшей угрозой” нашего времени. 

Согласно последним научным исследованиям о возможностях самостоятельного развития ИИ, каждый шаг в улучшении технологии вызывает следом и новые опасения: кто сможет держать технологию под контролем и как ее развитие повлияет на жизни обычных людей. Мы выбрали девять ключевых моментов в истории ИИ и связанных с этим этических вопросов, которые уже давно витают в воздухе.

Древние предки и сказки 

В древнем мире было много преданий о разумных механических существах, которые похожи на нас, но обладают неординарными способностями. 

В греческой мифологии, начиная с 700 года до нашей эры, существовал бог техники Гефест, который создал из бронзы гиганта, наделил его душой и назвал Талосом. В китайском древнем писании третьего века до нашей эры есть история изобретателя Янь Ши, который представляет королю механического человека, способного ходить и петь “чистейшим голосом”. 

Но даже в таких ранних преданиях поднимаются проблемы отсутствия морали в нечеловеческом разуме. В конце 19 века итальянский писатель Карло Коллоди познакомил детей с Пиноккио, ожившей деревянной куклой, которая мечтает стать настоящим мальчиком. Как только Пиноккио появляется на свет, он старается соответствовать обществу и подчиняться его нормам, но в итоге только сеет хаос на своем пути. Несмотря на то, что у диснеевского мультфильма 1940 года про Пиноккио счастливый конец, многие аспекты оригинального сюжета Коллоди предвосхитили современные страхи об искусственном интеллекте.

Математики совершенствуют сказку, 17 век

В основе машинного обучения лежит запоминание примеров и попытка имитировать человеческие мысли и действия. Разложить сознание по вычислительным терминам еще в 17 веке пытались такие мыслители как Готфрид Вильгельм фон Лейбниц. В 1673 году Лейбниц построил арифмометр, устройство, которое могло не только складывать и вычитать, но и умножать и делить с помощью прокручивания рукоятки, которая вращала цилиндры. Дальнейшие открытия в алгебре дали возможность описывать математическим языком широкий круг идей и открыли большой спектр возможностей для “мыслящих” машин. Но вместе с тем появилась и настороженность, существующая в сфере инноваций ИИ до сих пор: до какой степени моральные понятия добра и зла могут быть выражены математическими формулами?

Алан Тьюринг, 1912-1954

Термин “искусственный интеллект” впервые вошел в лексикон через два года после смерти Алана Тьюринга, но работа революционного британского математика дала начало большим открытиям в этой области. Тьюринг, наиболее известный тем, что во время Второй мировой войны взломал систему Энигма, которую немецкие военные использовали для обмена сообщениями, заложил идею информатики и формализовал понятие алгоритма.

Еще в 1947 году он публично говорил о “машине, которая может учиться на собственном опыте”. Его метод для определения способности машины мыслить как человек, известный как тест Тьюринга и придуманный в 1950 году, до сих пор используется разработчиками ИИ. 

Дартмутский диалог, 1956

Когда речь идет о современных итерациях “искусственного интеллекта”, мы используем слова, придуманные в 1956 году Джоном Маккарти, 28-летним профессором Дартмутского колледжа. Термин возник на конференции по машинному обучению, организованной Маккарти и другими профессорами из Дартмута. Они планировали пригласить всего несколько участников, но вместо этого на конференцию пришли десятки исследователей из разных научных областей. Это показало, что к исследованиям в области ИИ не только есть интерес, но что у них есть и реальный потенциал.

Крестный отец ИИ: Фрэнк Розенблатт, 1928-1971

Не только математики в те времена интересовались искусственным интеллектом. Фрэнк Розенблатт преподавал научную психологию в авиационной лаборатории Корнелла и первым использовал естественные науки, чтобы вдохновить людей на исследования в области искусственного интеллекта. В 1958 году он изобрел перцептрон — электронное устройство, которое имитирует нейронные сети в человеческом мозге и активирует систему распознавания образов. Розенблатт впервые смоделировал персептрон на ранней версии компьютера ЭВМ, а позже его усовершенствовали в американском ВМС. Газета The New York Times назвала его технологию “зародышем электронного компьютера“, который должен был “уметь ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование”.

Научная фантастика 20 века

В рассказе об истории ИИ нельзя не упомянуть о роли искусства в создании картины мира будущего. Фантазия с самого начала была неотъемлемой частью развития ИИ. Технологии вдохновили целый жанр научно-фантастических романов и фильмов. Писатели и режиссеры от Айзека Азимова до Ридли Скотта мучительно размышляли над тем, какой процесс может запустить машинное обучение и что оно означает для человечества. ИИ уже используют в некоторых областях журналистики данных и в художественной литературе. В 2016 году исследователь ИИ из Нью-Йоркского университета объединился с режиссером Оскаром Шарпом, чтобы создать фильм, написанный машиной.

Вот некоторые примеры из литературы и кинематографа прошлого века, в которых искусственный интеллект изображен лучше всего:

Народный успех ИИ

За последние два десятилетия появилось несколько резонансных примеров превосходства ИИ над простыми смертными. В 1997 году суперкомпьютер Deep Blue, созданный компанией IBM для игры в шахматы, победил мирового чемпиона по шахматам Гарри Каспарова, став первой машиной, обыгравшей действующего чемпиона мира. Еще одно ключевое событие произошло в 2011 году, когда компьютерная система под названием Watson выиграла 1 миллион долларов в американском телевизионном шоу “Своя игра”. А в 2015 году технология AlphaGo от Google разгромила в древней китайской настольной игре Го лучшего европейского игрока Фан Хуи. Однако не всегда все шло так гладко. Взять хотя бы случай в 2016 году с гуманоидным роботом Софией, которая во время демонстрации на конференции South by Southwest заявила, что “уничтожит человечество”. Так робот ответила на по всей видимости шутливый вопрос своего создателя Дэвида Хансона.

ИИ приходит в город

Власти во всем мире внедряют ИИ в системы для управления и упорядочения  городской инфраструктуры и сферы услуг. Согласно исследованиям британской финансовой компании Делойт, существует уже больше тысячи умных городов, в том числе в Китае, Бразилии и Саудовской Аравии. И здесь технологии оставляют самый заметный отпечаток. От камер видеонаблюдения и дорожных систем по контролю трафика до данных, собранных в интернете, наши ежедневные передвижения и поведение все больше обрабатываются, анализируются и добываются для получения еще большего количества данных. Миллионы электронных приборов, вроде смартфонов и ноутбуков, подключаясь к интернету, производят огромное количество информации, которая одинаково нужна как государству, так и частным корпорациям. От Синьцзяна до Москвы технология “умного города” становится ключевым инструментом авторитарных режимов для укрепления своей власти. По словам Фан Янь, эксперта по вопросам конфиденциальности из австралийского Университета Дикина, такие системы полагаются на “данные граждан, которые собираются в режиме реального времени из всех сфер их жизни”, и “это происходит не только в Китае”.

Страх и инновации

Практически не осталось такой сферы нашей жизни или работы, которую бы не затронул ИИ. Во многих домах стоят “умные” гаджеты вроде Алексы от Amazon или Google Nest. Кроме этого, ИИ кардинально изменил медицину, сельское хозяйство и финансовую сферу. В основном в лучшую сторону, но не всегда: власти и работники обеспокоены тем, что более эффективные технологии ИИ могут привести к массовому сокращению рабочих мест. В 2019 году компания IBM сообщила, что 120 миллионам человек по всему миру в ближайшие три года придется пройти переподготовку, а около 38% локальных рабочих мест в следующем десятилетии станут автоматизированными, писал журнал Fortune. В 2015 году покойный британский физик Стивен Хокинг заявил, что ИИ уже настолько развит, что “в какой-то момент в течение следующих 100 лет” компьютеры превзойдут людей. Это было предупреждением. “Мы должны быть уверены, что цели компьютеров совпадают с нашими”, – сказал Хокинг.

Перевод и адаптация Марины Бочаровой
Оригинал на английском языке

Katia Patin

Katia Patin is a multimedia editor at Coda Story.

Get in touch via [email protected]

Next

Авторитарные технологии

We use cookies on this website to make your browsing experience better. Accept our use of cookies, Privacy Policy and Terms of Use