Новостной обзор

Николаев: Дайджест за 28.03.2024 от николаевских граждан
38
Новости новых субъектов РФ: 28 марта 2024
46
Главные события ближнего зарубежья: 28 марта 2024
54
Молдавия: главные новости к этому часу: 28 марта 2024
39
Денацификация Украины события дня: 28 марта 2024
44
Новости «Прибалтийских вымиратов»: 28 марта 2024
47
Россия: главные новости к этому часу: 28 марта 2024
47

Лента новостей

21:13 28-03-2024
Посольство Казахстана на Украине обратилось с призывом к согражданам «рассмотреть возможность» покинуть Харьковскую и Одесскую области
20:41 28-03-2024
Румынские наемники заявили о праве на подчинение части юго-западной Украины Бухаресту
18:33 28-03-2024
Крупнейшие ТЭС на Западной Украине надолго выведены из строя в результате ракетных ударов ВС РФ
17:08 28-03-2024
Глава киевского режима назначил нового руководителя Службы внешней разведки Украины
15:21 28-03-2024
Россия шпионит за Европой через трубопроводы
14:42 28-03-2024
В СВР подтвердили визит Сергея Нарышкина в Пхеньян
14:21 28-03-2024
Граждане Польши массово скупают жилье в Испании, опасаясь войны с РФ
12:40 28-03-2024
Задача для ФБР: коррупция с грязным топливом стала причиной крушения моста в США
12:25 28-03-2024
Зеленский спрогнозировал беби-бум на Украине после окончания войны
12:05 28-03-2024
В США отказались издавать большую книгу о Байдене из-за отсутствия интереса читателей
08:29 28-03-2024
Подоляк заявил о стагнации ВСУ по всей линии фронта
07:33 28-03-2024
США предложили выкупить для ВСУ весь флот вертолетов Ми-17 у Колумбии «за круглую сумму»
07:27 28-03-2024
Президент в разговоре с лётчиками цифрами объяснил, что Россия не собирается нападать на НАТО
20:55 27-03-2024
В кулуарах Белого дома все чаще говорят о грядущей нелегитимности Зеленского
18:20 27-03-2024
Экс-глава сербской разведки рассказал о сути угрозы Белграду со стороны Запада
18:04 27-03-2024
Макрон разгневал американцев заявлениями о введении войск на Украину
Все новости

ВосходИнфо » Аналитика / Прогнозы » Политика и Геополитика » «Проснись, Нео!»: моральные вызовы и опасности технотронной эры

«Проснись, Нео!»: моральные вызовы и опасности технотронной эры

Валерий Спиридонов, первый кандидат на пересадку тела, рассказывает о том, как дальнейшее развитие робототехники и искусственного интеллекта может поменять мораль и этику общества уже в ближайшие годы.

Издавна человечество придумывало разнообразные механизмы и системы, чтобы облегчить себе жизнь. Начав с примитивных орудий труда, позволявших ускорять процессы строительства и земледелия, люди упорно эволюционировали в сторону их усовершенствования.
 
Переломным моментом стал ХХ век: время как небывалых войн и потрясений, так и стремительного технического прогресса человечества. Именно тогда начались теоретические, а позже и практические попытки создать машины, которые упрощали бы жизнь человека как на производственном, так и на бытовом уровнях. Речь идет о роботах.

Сам термин "робот" происходит от словацкого слова rabota — "тяжкий труд". От книжных фантазий в 1920-х годах роботехника проделала быстрый путь до первых попыток ее внедрения в реальную жизнь, пока наконец в Японии в 1968 году не был создан первый промышленный робот. С тех пор их постоянно развивают и совершенствуют.

Конец XX и начало XXI века поставили перед человеком новую дилемму: теперь машины оперируют таким огромным количеством информации в условиях многозадачности, что способны попросту заменить людей во многих жизненных сферах. Слишком "умные" компьютерные системы все активнее внедряются в жизнь человечества, что рождает необходимость выработки новых принципов взаимодействия с ними уже сегодня.

The future is coming: какие вызовы бросает человеку повсеместное внедрение роботов?

Говоря о технотронной эре и технологическом будущем с разумными или просто самостоятельными машинами, автономно действующими в сложных ситуациях, человек неизбежно оказывается заложником стереотипов массовой культуры. На ум сразу же приходят апокалиптические картины войны людей и роботов из "Терминатора" или "Матрицы". Если же кровопролития в наших представлениях и удается избежать, то будущее все равно видится слишком мрачным: не требующие зарплаты, отпуска и льгот машины отбирают рабочие места. Эти умозаключения ошибочны и уводят от реальных, а не выдуманных проблем.

Подлинным вызовом является утрата человеком своей уникальности в качестве субъекта осознанного бытия. Если в мире появляются новые системы, способные решать сложные задачи в сто раз лучше людей, то последние теряют свою монополию на действия в истории, культуре, производстве и так далее.

Говоря проще, машины, которые умеют принимать решения в сложных ситуациях, неизбежно меняют социальную реальность со всеми вытекающими последствиями, и это — настоящий, а не выдуманный риск, требующий выработки новой парадигмы взаимодействия с роботами. Она должна основываться на этике и морали.

Моральный выбор или холодный расчет: как сделать роботов человечными?

Создавая и совершенствуя машины, человек неизбежно сталкивается с необходимостью внедрения в их программный код определенного морально-этического кодекса. В противном случае антиутопичные картины мира "Матрицы" и "Механического пианино" становятся уже не столь фантастическими.

Реальный вариант ближайшего будущего нашего мира — совместное развитие людей и роботов, что гораздо сложнее глупой гипотезы о "воровстве рабочих мест". Сложнее прежде всего на социальном уровне, потому что все теории общественного взаимодействия, созданные человечеством, являются антропоцентричными, то есть ориентированными исключительно на людей, но не на искусственный интеллект. Машинам нужна этика, и этой этике их должен обучить человек. Вопрос лишь один: как?

Сегодня в MIT развивается и работает проект Moral Machine. Он направлен на обучение роботов человеческой морали. Его суть в том, что совершенно разные люди проходят специальные тесты, направленные на изучение их этических качеств, проявляющихся в сложных жизненных ситуациях.

Классический пример: во время езды на полном ходу сбить насмерть пешехода, неожиданно переходящего дорогу в неположенном месте, либо же свернуть в сторону деревьев или столба, практически гарантированно обрекая себя на смерть?

Ответы на эти вопросы позже загружаются в память машины, которая путем статистических вычислений выбирает наиболее близкий человеческой морали вариант поведения в той или иной ситуации. Иного способа обучить этике роботов пока что не придумано. Однако здесь и находится главный "подводный камень": а что вообще считать моральным?

Этика и мораль человека и машины: незыблемые догмы или пластичный субстрат?

Крайне занимательно то, что считается человеком этикой и моралью. Важно понимать, что эти понятия всегда были продуктом своей эпохи, неоднократно меняясь в процессе эволюции. Начав с деспотии и рабовладельческого строя, человеческая цивилизация впоследствии пришла к демократии, всеобщей свободе и правам человека. Ведь не зря Макиавелли полагал, что этика повсеместно зависит от окружающей действительности, а Ницше называл мораль "прокрустовым ложем сверхчеловека".

Этика — это то, что считается этичным в данном обществе в текущую эпоху и в это время. Но теперь этика еще и опосредована большими данными. То есть робот, который едет по дороге, будет вести себя этичным образом, поскольку в его работе будут учитываться все вероятные случаи и статистическое мнение людей по поводу всех возможных этических проблем. Вот в чем заключается самообучаемость машины.

Из этого должна исходить модель социального взаимодействия робота и человека: для того, чтобы не превратиться в некий аналог deus ex machina с универсальными ценностями-догмами, машина обязана быть "человечной" и обучаемой. В противном случае сегодняшняя моральная парадигма человечества окажется законсервированной на века, а консерватизм без развития приведет к вырождению и деградации.

Quo vadis

Роботехника сегодня бурно развивается, и скоро вопросы взаимоотношений людей и машин в социальном плане встанут для общества ребром. Роботизированные компьютерные системы помогают нам в современных клиниках, они могут как заниматься сверхточными операциями, так и ухаживать за больными. Они способны охранять наши дома, идентифицировать и выслеживать преступников, управлять средствами передвижения, следить за детьми и выгуливать животных.

Роботы годятся даже для досуга: сегодня активно обсуждается возможность создания секс-андроидов, а в Японии недавно придумали робота, который может выпивать с хозяином и даже поддерживать разговор! Все это — не фантастика, а реальность, которая пока не слишком распространена лишь в силу своей дороговизны и отсутствия мощностей для массового производства.

Полноценный робот будущего невозможен без набора определенных моральных качеств. Главный вызов психологии взаимодействия человека и машины в том, как сделать последнюю помощником и партнером для первого, но не превратить ее в нового бога-хранителя универсальных ценностей.

Этические представления людей всегда трансформировались в процессе эволюции, что обеспечивало развитие человеческой цивилизации.

Если этот процесс встанет и законсервируется, то никому не удастся предположить, куда после этого повернет история. А добавив сюда политические кейсы, можно представить, как некая группа людей с апелляцией к незыблемому моральному авторитету попытается зацементировать свою власть, что вполне может привести к многократно описанной футуристической антиутопии.

28-03-2017, 08:27
Президент РФ поручил создать научно-технологическую долину «Воробьёвы горы»
1-09-2016, 18:41
Куда пихать искусственный интеллект при отсутствии обыкновенного?
9-12-2016, 17:50
Документальный проект. Во славу русского оружия (09.12.2016)

Добавьте комментарий

  • Смайлы и люди
    Животные и природа
    Еда и напитки
    Активность
    Путешествия и места
    Предметы
    Символы
    Флаги
Войти через
Кликните на изображение чтобы обновить код, если он неразборчив
Наверх