Новостной обзор

Самые актуальные новости Белоруссии на утро 19 октября 2021
38
Новороссия сегодня 18 октября 2021
103
Главные события ближнего зарубежья: 18 октября 2021
68
Бывшая УССР: главные события дня 18 октября 2021
81
Борьба с чиновничьим беспределом в России: 18 октября 2021
70
США, Европа: главные новости к этому часу 18 октября 2021
79
Ситуация на Донбассе за прошедшие сутки 18 октября 2021
129

Лента новостей

08:00 19-10-2021
На Украине рассказали о «троянском коне» против «Северного потока — 2»
06:57 19-10-2021
Госдеп начал расследование дипломатических усилий Байдена в Афганистане
06:53 19-10-2021
Зеленский признался в бессмысленности вопросов о вступлении Украины в ЕС
06:46 19-10-2021
Польский вице-премьер заявил, что «Россия ведёт гибридную войну против Польши на двух фронтах»
20:25 18-10-2021
ВМФ РФ получит подводных роботов на службу
20:24 18-10-2021
Нет конфиденциальности, или Как с детства попасть в систему
20:18 18-10-2021
Киев покупает у России самолеты украинского бюро «Антонов»
20:17 18-10-2021
Как страны Восточной Европы поссорились с РФ из-за боязни перед США
20:14 18-10-2021
Путин поздравил российских киберспортсменов из Team Spirit
19:51 18-10-2021
Жители Сальвадора протестовали против биткоина
19:14 18-10-2021
Зажали бабки – в Питере не выделяют средства на испытания новой вакцины
17:49 18-10-2021
Петербуржец отсудил у школы английского языка 320 тысяч за отказ его обучать
17:24 18-10-2021
Россия приостанавливает сотрудничество с НАТО в ответ на высылку российских дипломатов
16:25 18-10-2021
«Газовый приговор» навис над Украиной
15:57 18-10-2021
Почему со страницы Беглова в ВК пропадают комментарии петербуржцев
15:27 18-10-2021
Автобусы и троллейбусы Петербурга проследят за нарушителями, выезжающими на выделенную полосу
Все новости

ВосходИнфо » Аналитика / Прогнозы » Политика и Геополитика » «Проснись, Нео!»: моральные вызовы и опасности технотронной эры

«Проснись, Нео!»: моральные вызовы и опасности технотронной эры

Валерий Спиридонов, первый кандидат на пересадку тела, рассказывает о том, как дальнейшее развитие робототехники и искусственного интеллекта может поменять мораль и этику общества уже в ближайшие годы.

Издавна человечество придумывало разнообразные механизмы и системы, чтобы облегчить себе жизнь. Начав с примитивных орудий труда, позволявших ускорять процессы строительства и земледелия, люди упорно эволюционировали в сторону их усовершенствования.
 
Переломным моментом стал ХХ век: время как небывалых войн и потрясений, так и стремительного технического прогресса человечества. Именно тогда начались теоретические, а позже и практические попытки создать машины, которые упрощали бы жизнь человека как на производственном, так и на бытовом уровнях. Речь идет о роботах.

Сам термин "робот" происходит от словацкого слова rabota — "тяжкий труд". От книжных фантазий в 1920-х годах роботехника проделала быстрый путь до первых попыток ее внедрения в реальную жизнь, пока наконец в Японии в 1968 году не был создан первый промышленный робот. С тех пор их постоянно развивают и совершенствуют.

Конец XX и начало XXI века поставили перед человеком новую дилемму: теперь машины оперируют таким огромным количеством информации в условиях многозадачности, что способны попросту заменить людей во многих жизненных сферах. Слишком "умные" компьютерные системы все активнее внедряются в жизнь человечества, что рождает необходимость выработки новых принципов взаимодействия с ними уже сегодня.

The future is coming: какие вызовы бросает человеку повсеместное внедрение роботов?

Говоря о технотронной эре и технологическом будущем с разумными или просто самостоятельными машинами, автономно действующими в сложных ситуациях, человек неизбежно оказывается заложником стереотипов массовой культуры. На ум сразу же приходят апокалиптические картины войны людей и роботов из "Терминатора" или "Матрицы". Если же кровопролития в наших представлениях и удается избежать, то будущее все равно видится слишком мрачным: не требующие зарплаты, отпуска и льгот машины отбирают рабочие места. Эти умозаключения ошибочны и уводят от реальных, а не выдуманных проблем.

Подлинным вызовом является утрата человеком своей уникальности в качестве субъекта осознанного бытия. Если в мире появляются новые системы, способные решать сложные задачи в сто раз лучше людей, то последние теряют свою монополию на действия в истории, культуре, производстве и так далее.

Говоря проще, машины, которые умеют принимать решения в сложных ситуациях, неизбежно меняют социальную реальность со всеми вытекающими последствиями, и это — настоящий, а не выдуманный риск, требующий выработки новой парадигмы взаимодействия с роботами. Она должна основываться на этике и морали.

Моральный выбор или холодный расчет: как сделать роботов человечными?

Создавая и совершенствуя машины, человек неизбежно сталкивается с необходимостью внедрения в их программный код определенного морально-этического кодекса. В противном случае антиутопичные картины мира "Матрицы" и "Механического пианино" становятся уже не столь фантастическими.

Реальный вариант ближайшего будущего нашего мира — совместное развитие людей и роботов, что гораздо сложнее глупой гипотезы о "воровстве рабочих мест". Сложнее прежде всего на социальном уровне, потому что все теории общественного взаимодействия, созданные человечеством, являются антропоцентричными, то есть ориентированными исключительно на людей, но не на искусственный интеллект. Машинам нужна этика, и этой этике их должен обучить человек. Вопрос лишь один: как?

Сегодня в MIT развивается и работает проект Moral Machine. Он направлен на обучение роботов человеческой морали. Его суть в том, что совершенно разные люди проходят специальные тесты, направленные на изучение их этических качеств, проявляющихся в сложных жизненных ситуациях.

Классический пример: во время езды на полном ходу сбить насмерть пешехода, неожиданно переходящего дорогу в неположенном месте, либо же свернуть в сторону деревьев или столба, практически гарантированно обрекая себя на смерть?

Ответы на эти вопросы позже загружаются в память машины, которая путем статистических вычислений выбирает наиболее близкий человеческой морали вариант поведения в той или иной ситуации. Иного способа обучить этике роботов пока что не придумано. Однако здесь и находится главный "подводный камень": а что вообще считать моральным?

Этика и мораль человека и машины: незыблемые догмы или пластичный субстрат?

Крайне занимательно то, что считается человеком этикой и моралью. Важно понимать, что эти понятия всегда были продуктом своей эпохи, неоднократно меняясь в процессе эволюции. Начав с деспотии и рабовладельческого строя, человеческая цивилизация впоследствии пришла к демократии, всеобщей свободе и правам человека. Ведь не зря Макиавелли полагал, что этика повсеместно зависит от окружающей действительности, а Ницше называл мораль "прокрустовым ложем сверхчеловека".

Этика — это то, что считается этичным в данном обществе в текущую эпоху и в это время. Но теперь этика еще и опосредована большими данными. То есть робот, который едет по дороге, будет вести себя этичным образом, поскольку в его работе будут учитываться все вероятные случаи и статистическое мнение людей по поводу всех возможных этических проблем. Вот в чем заключается самообучаемость машины.

Из этого должна исходить модель социального взаимодействия робота и человека: для того, чтобы не превратиться в некий аналог deus ex machina с универсальными ценностями-догмами, машина обязана быть "человечной" и обучаемой. В противном случае сегодняшняя моральная парадигма человечества окажется законсервированной на века, а консерватизм без развития приведет к вырождению и деградации.

Quo vadis

Роботехника сегодня бурно развивается, и скоро вопросы взаимоотношений людей и машин в социальном плане встанут для общества ребром. Роботизированные компьютерные системы помогают нам в современных клиниках, они могут как заниматься сверхточными операциями, так и ухаживать за больными. Они способны охранять наши дома, идентифицировать и выслеживать преступников, управлять средствами передвижения, следить за детьми и выгуливать животных.

Роботы годятся даже для досуга: сегодня активно обсуждается возможность создания секс-андроидов, а в Японии недавно придумали робота, который может выпивать с хозяином и даже поддерживать разговор! Все это — не фантастика, а реальность, которая пока не слишком распространена лишь в силу своей дороговизны и отсутствия мощностей для массового производства.

Полноценный робот будущего невозможен без набора определенных моральных качеств. Главный вызов психологии взаимодействия человека и машины в том, как сделать последнюю помощником и партнером для первого, но не превратить ее в нового бога-хранителя универсальных ценностей.

Этические представления людей всегда трансформировались в процессе эволюции, что обеспечивало развитие человеческой цивилизации.

Если этот процесс встанет и законсервируется, то никому не удастся предположить, куда после этого повернет история. А добавив сюда политические кейсы, можно представить, как некая группа людей с апелляцией к незыблемому моральному авторитету попытается зацементировать свою власть, что вполне может привести к многократно описанной футуристической антиутопии.

28-03-2017, 08:27
Президент РФ поручил создать научно-технологическую долину «Воробьёвы горы»
1-09-2016, 18:41
Куда пихать искусственный интеллект при отсутствии обыкновенного?
9-12-2016, 17:50
Документальный проект. Во славу русского оружия (09.12.2016)

Добавьте комментарий

  • Смайлы и люди
    Животные и природа
    Еда и напитки
    Активность
    Путешествия и места
    Предметы
    Символы
    Флаги
Войти через
Кликните на изображение чтобы обновить код, если он неразборчив
Наверх