Современное общество в условиях социально-экономической неопределенности

73 
1.0), 2) биотехнологических гибридов человека и ИИ - киборгов (Homo 
Sapiens 2.0), 3) "цифровых двойников» и 4) техносубъектов - 
технических устройств с ИИ. Техносубъект это синтетический, 
искусственный 
эквивалент 
человека-субъекта. 
Признаки 
его 
субъектности - способности целеполагания, самообучения и 
самоперепрограммирования. Под воздействием его стремительно 
нарастающего влияния на общество происходит утрата целостности 
социальной структуры, нарастает ее расщепление на структуру людей 
и структуру техносубъектов. Возникает особая параллельная 
техносоциосфера - система машин нового вида с ИИ. Эти машины 
представляют собой особых интеллектуальных агентов гибридного 
социума. С их помощью большинство человеческих решений 
принимается быстро и без особых раздумий. Механизм человеческого 
поведения работает как генеративная модель данных. Ее применение 
позволяет получить ответ на вопрос: какие данные мы ожидаем 
получить, если мотивировать человека как интеллектуального агента 
тем или иным набором вознаграждений. При этом строится и обратная 
реконструкция: какие награды с наибольшей вероятностью побудят 
агента вести себя определенным образом.
Генеративная модель - это теория человеческого поведения, 
функционирования человеческого разума, которую придется 
применять в процессе активного сопровождения гибридизации 
социума для создания устойчивой системы интеракций между людьми 
и интеллектуальными агентами нового вида - техносубъектами. Это 
неизбежный и принципиально новый императив выживания 
человеческого вида в условиях сосуществования с новым видом агента 
социальных отношений. Например, одним из важнейших процессов 
становления гибридного социума является конструирование и 
встраивание в структуры межчеловеческих отношений гуманоидных 
роботов, предназначенных для постоянного общения с человеком. 
Совместимость ИИ с человеком напоминает дрессировку животных. 
Задача робота состоит в выяснении того, какие действия ему надлежит 
предпринять, чтобы получить наибольшее вознаграждение. Если нам 
хочется, чтобы высокопроизводительные ИИ были совместимы с 
людьми, нельзя разрабатывать их изолированно от людей, а затем 
пытаться внедрять в общество; скорее, следует изначально 
проектировать ИИ совместимый с человеком. В этой связи необходимо 
учитывать, что: 1) изолированная оптимизация функций робота 
отличается от оптимизации при взаимодействии с людьми, поскольку 
люди при этом взаимодействуют между собой. А это проблема 
координации. Ведь человек осмысливает поведение роботов и также 

74 
реагирует на них. И роботы это тоже фиксируют. 2) Именно человек, в 
конечном счете, определяет, какой должна быть функция 
вознаграждения робота. Награда должна мотивировать действовать в 
интересах пользователя. Роботам придется научиться это понимать. 
Они должны вникать в суть процесса принятия человеческих решений. 
Поэтому нужно проектировать роботов, которые будут в состоянии 
оценивать внутреннее состояние человека, т.е. соответствовать 
требованиям "теоремы Томаса"(если люди определяют ситуации как 
реальные, то они реальны по своим последствиям). Но это возможно, 
только если человек сам будет давать подсказки. Поскольку роботы и 
люди взаимно влияют друг на друга, то роботы должны научиться 
ориентироваться в этом пространстве влияний. Речь идет о людях, 
взаимодействующих с роботами. Роботам нужна координационная 
стратегия, которая позволит им принимать участие в переговорах, 
ведущихся людьми. Но и людям придется также учиться предугадывать 
действия роботов. И чем больше люди будут знать о них, тем проще 
станет координировать действия. В итоге для достижения 
совместимости 
от 
роботов 
потребуется 
умение 
предвидеть 
человеческие поступки, и осознавать, как эти поступки повлияют на их 
собственные действия, а людям придется научиться предугадывать 
действия роботов (тогда состоится "ориентация на Другого"). При этом 
важно помнить, что мы можем принудить робота соответствовать 
внутренним ценностям человека, но человека абстрактного. По этой 
причине необходимо позволить роботам осмысливать конкретных 
людей. Они должны учитывать человеческую природу и одновременно 
индивидуальные характеристики для координации и согласования с 
ними своих действий. Для этого необходимо прививать роботам 
социальные характеристики. Наступает новая фаза гибридизации - 
слияние искусственного и человеческого интеллектов, фаза 
сверхразумов. Гибридные суперинтеллекты ставят собственные цели, и 
становятся все более подобными независимым разумным существам. 
Поэтому их действия не всегда будут соответствовать интересам людей. 
Социальный мир наступающего будущего уже нельзя рассматривать 
как гомогенный социум людей. Необходимо констатировать, что в его 
составе два пока равносильных и равновесных интеллектуальных 
агента - люди и интеллектуальные машины. Однако это относительное 
и неустойчивое равновесие базируется уже на состоявшейся замене 
человеческого социального контроля и управления на контроль с 
помощью машин, основанных на ИИ. 

жүктеу/скачать 9,21 Mb.

Достарыңызбен бөлісу: