19 July 2017

«Роботы могут начать войну».Илон Маск предупредил о рисках цифровой экономики

By  

Сооснователь SpaceX и Tesla считает, что искусственный интеллект представляет реальный риск для человеческой цивилизации. Нужно ли принимать срочные меры? Что думают российские бизнесмены о рисках развития искусственного интеллекта?


Илон Маск назвал искуственный интеллект главной угрозой человечеству. Сооснователь SpaceX, Tesla и целого ряда других компаний призвал государства срочно взяться за разработку законов для сферы искусственного интеллекта. Согласны ли с миллиардером, построившим состояние на инновациях, российские участники рынка?

Илон Маск за словами в карман не лезет. «Искусственный интеллект является основной угрозой, с которой человечество сталкивается как цивилизация», — приводит цитату журнал Fortune. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча», — предостерегает Маск. Звучит пугающе, конечно. Добавить в кадр осознавшие себя ядерные беспилотники, держащие в страхе мировых лидеров, и блокбастер получится. На самом деле, это стандартный алармистский подход к прогрессу в IT, комментирует Роман Душкин, директор по науке и технологиям проекта «Джейн», который занимается разработкой умной программы-доктора для помощи врачам-людям.

Роман Душкин
директор по науке и технологиям проекта «Джейн»
«Сегодня под термином «искусственный интеллект» понимается две совершенно разные вещи. С одной стороны, то, о чем говорит Илон Маск, — это как бы сильный искусственный интеллект. Существо, которое осознает себя внутри компьютерных сетей, и у него будет разум. И если такое произойдет действительно, мы даже не успеем рыпнуться, когда оно станет намного, в тысячу, в миллионы, в миллиарды раз умнее всего человечества вместе взятого. И думать о том, что такое сверхинтеллектуальное существо будет обращать внимание на каких-то людишек, копошащихся в грязи на планете Земля, — это сложно. А с другой стороны, термин «искусственный интеллект» предполагает просто набор технологий, которые сегодня используются в машинном обучении: эволюционные алгоритмы, искусственные нейросети и так далее. Если так вот где-то на 30 лет назад переместиться мысленно и показать человеку на улице современный смартфон с современной картой города, с возможностью построить маршрут от точки А в точку Б с любым транспортом, то человеку 30 лет назад это показалось бы немыслимым, и он бы сказал: «Конечно, эта система интеллектуальна». Но сегодня мы ее уже не воспринимаем интеллектуальной».

При этом регулирование искусственного интеллекта однозначно необходимо. Маск сгущает краски, причем не в первый раз, в прошлом году он делал примерно такое же заявление, но в благих целях. Одна из главных угроз искусственного интеллекта — автоматизация все большего числа областей экономики. Например, в США более 3 миллионов профессиональных дальнобойщиков. Переход на автопилот в индустрии грузовых автоперевозок в ближайшие пять-десять лет почти неизбежен. То же касается водителей такси. Что делать с этими людьми? Без координированных государственных программ переобучения страну ждет массовая безработица и взрывной рост социального недовольства, и это, уже не говоря об этических вопросах создания искусственного интеллекта, продолжает сооснователь стартапа в области глубокого обучения «Дивидити» Григорий Фурсин.

Григорий Фурсин
сооснователь стартапа в области глубокого обучения «Дивидити»
«Тут даже не про ограничение идет речь, а про то, что сейчас нет правовой базы для искусственного интеллекта, для ответственности. Ни в России, ни за рубежом. Простой пример: одна из областей, где искусственный интеллект сейчас используется, — это автопилот. И теперь, если автомобиль такой кого-то сбивает, кто ответственен? Ответственен водитель, который как бы не ведет машину, ответственен разработчик? Есть более страшные случаи, которые сейчас обсуждают, — это, например, вы едете на машине с автопилотом по горе, и вдруг перед вами возникает пять человек. И тот же самый искусственный интеллект может очень быстро разобраться, что жертв не избежать. А тогда возникает вопрос — что делать? Сбивать пять человек? Либо может быть даже сбрасывать машину в пропасть? Тут человек не может разобраться, а мы пытаемся это отдать на откуп искусственному интеллекту».


Есть и чисто логический аргумент в пользу того, чтобы со всей серьезностью относиться к рискам прогресса. Парадокс Ферми: если Вселенная почти бесконечна, то за пределами Солнечной системы должно быть значительное число развитых цивилизаций. Так почему мы до сих пор не зафиксировали какие-либо сигналы, которые они испускают? Один из пессимистичных выходов из парадокса: в какой-то момент любая цивилизация достигает некоего «предела прогресса» и погибает. Ядерной войны во второй половине прошлого века нам удалось избежать, посмотрим, переживем ли мы искусственный интеллект.
Текст:Андрей Ромашков
@camomilesson
BFM
Posted by Канадская служба новостей(КСН)

Valery Rubin

About Valery Rubin

Author Description here.. Nulla sagittis convallis. Curabitur consequat. Quisque metus enim, venenatis fermentum, mollis in, porta et, nibh. Duis vulputate elit in elit. Mauris dictum libero id justo.

Subscribe to this Blog via Email :