До Скайнета еще далеко, но все же лучше к нему подготовиться

Технологиям искусственного интеллекта и виртуальной реальности уделяют чрезмерное внимание в СМИ — это признают сами журналисты, в том числе репортер New York Times Кейд Метц. По его мнению, главное отличие ИИ от VR — это способность по-настоящему менять мир уже сейчас. Со временем эти перемены могут стать радикальными и привести к Скайнету — появлению свободной и, возможно, враждебной человеку воли у машины.

О виртуальной реальности и искусственном интеллекте сегодня говорят практически так же часто, как о биткойне и блокчейне. Но, как считает Кейд Метц, между ИИ и VR есть существенное различие. VR пока остается исключительно развлекательным явлением, атрибутом игровой индустрии. Тогда как искусственный интеллект уже оказывает влияние на повседневную жизнь обычных людей.

Метц приводит в пример беспилотные автомобили, которые компания Waymo тестирует в Фениксе, а также умные колонки Amazon Echo, способные выполнять сотни команд человека. Другой пример — сервис перевода Google Translate, который значительно усовершенствовался за последние несколько лет.

ПРОДОВЖЕННЯ ПІСЛЯ РЕКЛАМИ

Многие эксперты из Кремниевой долины предупреждают о рисках искусственного интеллекта. Сегодня алгоритм успешно выполняет за человека рутинную работу, а завтра программа уже захватывает власть и подчиняет себе людей. В такой прогноз верит глава Tesla и SpaceX Илон Маск, который считает, что ИИ может стать причиной Третьей мировой войны.

По мнению Метца, эти беспокойства не напрасны. «Хотя сценарий по типу Скайнета станет реальной проблемой только через много-много лет, лучше чтобы мы были к нему готовы». Именно поэтому аналитик считает, что ученые не зря обеспокоились безопасностью ИИ на том этапе, когда алгоритмы еще находятся на начальной стадии развития.

Ученые пытаются подготовиться к различным сценариям, которые пока далеки от воплощения. В первую очередь это касается незащищенности ИИ-систем. Например, злоумышленники могут обмануть систему безопасности, заставив ее видеть то, чего на самом деле нет. Одновременно с этим хакеры могут использовать генеративные нейросети и другие инструменты для создания фальшивого контента. Так, система на основе машинного обучения от Nvidia научилась создавать крайне реалистичные фейковые видеоролики.

Другая проблема — это выход ИИ из-под контроля. Разработчики ищут способы создать подобие рубильника, который отключил бы вдруг осознавший себя и враждебный человеку ИИ. Кроме того, специалисты по компьютерным технологиям пытаются понять логику действий алгоритмов. И пока это это удается им не всегда.

Хотя Метц и допускает вероятность Скайнета, он признает, что ближайшее угрозой для человека станет автоматизация труда. Однако как показало недавнее исследование с применением машинного обучения, автоматизация не отнимет рабочие места, а, напротив, увеличит число занятых людей преимущественно в секторе услуг.

Источник: hightech.fm