Автор фото, Emmanuel Lafont
Когда мы объединяем ум и машину, традиционные границы размываются, говорит философ Двиджа Мехта.
В марте мужчина по имени Ноланд Арбо показал, что может играть в шахматы онлайн без помощи курсора – лишь силой мысли. Прожив восемь лет с параличом, он получил способность выполнять ранее недоступные ему задачи. Это произошло благодаря мозговому имплантату, разработанному компанией Neuralink Илона Маска.
«Для меня стало интуитивно понятно, как представить движение курсора, — сказал Арбо в прямом эфире. — Я просто смотрю в определенное место экрана, и он двигается туда, куда я хотел».
<Объяснение Арбо предполагает, что он чувствует, что сам отвечает за перемещение шахматной фигуры. Однако, кто действительно выполнял действия — он или имплант?
Меня, как философа ума и искусственного интеллекта, интересует этот вопрос.
Технологии интерфейса «мозг-компьютер» (Brain-computer interface BCI), например Neuralink, символизируют новую эру во взаимосвязи человеческого мозга и машин. Они также требуют от нас пересмотреть наши взгляды на идентичность, собственное «я» и личную ответственность.
Парализованный мужчина снова смог ходить. Ему в мозг вживили имплантаты
Ученые создали имплант для «озвучивающего мысли» мозга
В ближайшей перспективе технология обещает много преимуществ для таких людей, как Арбо, но ее применение может пойти дальше .
В будущем компания планирует сделать такие имплантаты доступными для населения в целом, чтобы увеличить способности людей.
Если машина может выполнять действия, которые когда-то были предназначены только для мозга человека, следует ли считать ее расширением человеческого разума или, возможно, чем-то отдельным?
Расширенный разум
<Десятилетиями философы спорили о границах личности: где заканчивается наш разум и начинается внешний мир? На простом уровне можно предположить, что наш разум находится в нашем мозге и теле. Однако некоторые философы считают, что это гораздо сложнее.
В 1998 году философы Дэвид Чалмерс и Энди Кларк представили гипотезу «расширенного разума», предполагая, что технологии могут стать частью нас.
Говоря на философском языке, ученые предложили идею активного экстернализма, согласно которой люди могут делегировать некоторые свои мыслительные процессы внешним объектам, таким образом интегрируя эти объекты в человеческий разум.
Это было еще до появления смартфона, но предусмотрело то, как мы теперь переводим на наши устройства некоторые когнитивные задачи – от поиска пути к памяти.
Чалмерс и Кларк также представляли сценарии «будущего киберпанка», когда человек с имплантатом в мозгу сможет двигать объектами на экране — как Арбо.
Чтобы играть в шахматы, Арбо представляет себе то, что он хочет сделать, например, переместить пешку или слона . И его имплантат, в этом случае N1 Neuralink, улавливает нейронные шаблоны его намерений, затем декодирует и обрабатывает их и выполняет действия.
Автор фото, Emmanuel Lafont
Как мы должны рассуждать об этом теперь? Является ли имплант Арбо частью его разума, связанного с его намерениями и волей? Если нет, то это ставит острые вопросы о том, действительно ли он ответственен за свои действия.
Чтобы понять почему, посмотрим на то, как отличаются события и действия. События охватывают все наши мыслительные процессы, как наши мысли, убеждения, желания, представления и намерения. Действия – это события, на которые влияют, например, движения пальцев, которыми вы сейчас прокручиваете эту статью.
Обычно разрыва между событиями и действиями нет. Для примера возьмем гипотетическую женщину Нору, не имеющую интегрированных в свой мозг имплантов. Нора играет в шахматы. У нее возникает некое намерение, регулирующее события, чтобы переместить пешку на d3, и делает это просто движением руки. В случае Норы намерение и действие нераздельны; она может приписать действие перемещения пешки себе.
Три стадии искусственного интеллекта: может ли он уничтожить человечество?
Для Арбо, однако, ситуация иная. Он должен представить свое намерение, но выполняет действие во внешнем мире не он сам, а имплант. То есть события и действия в этом случае разделены.
Это вызывает некоторые серьезные беспокойства, например, может ли человек, пользующийся мозговым имплантом для расширения своих способностей, иметь полный контроль над своими действиями.
Хотя человеческий мозг и тело совершают немало непреднамеренных действий, от чихания и неловких движений до расширения зрачков, могут ли действия, управляемые имплантами, считаться чужими? Можно ли имплант считать паразитическим злоумышленником, влияющим на свободу человека?
Сверхчеловеческий искусственный интеллект. Как «оно» работает и к чему все идет
Когда мозговые импланты станут более распространенными, вопрос личной ответственности станет более трудным. А если, например, действия, контролируемые имплантом, нанесут телесные повреждения другому человеку?
И это не единственная нравственная проблема, которую порождают эти технологии.
Коммерциализация этой технологии без решения проблемы ответственности может проложить путь к антиутопии. Роман Уильяма Гибсона «Нейромант», например, повествует о том, как импланты могут привести к потере личности, манипуляциям и нарушению конфиденциальности мнения. «/>
Автор фото, Getty Images
Решающий вопрос заключается в том, когда «воображение» становится «замыслом действия».
С точки зрения нейронауки, различить воображение и намерение практически невозможно. Исследование, проведенное в 2012 году группой нейробиологов, пришло к выводу, что нет нейронных событий, квалифицирующих как «намерение действовать».
Без возможности распознавать нейронные шаблоны, обозначающие этот переход, может быть непонятно, какой воображаемый сценарий стал причиной определенного эффекта в физическом мире.
Это позволяет возложить частичную ответственность и право собственности на действия на имплант, и снова поставить под сомнение, действительно ли действия принадлежат ему и являются ли они частью его личности?
Однако теперь, когда расширенный мыслительный эксперимент Чалмерса и Кларка воплотился в реальность, я предлагаю пересмотреть их основные идеи.
Гипотеза расширенного разума позволила бы кому-то, как Арбо, нести ответственность за все свои действия, не разделяя ее с имплантом.
Другими словами — человек должен воспринимать имплант как часть своей личности и своей внутренней жизни. А за этим последуют и ощущение собственной воли и ответственности.
Дебаты о действиях и собственной воле всегда шли вокруг личности между кожей и черепом. Однако с мозговыми имплантатами этот предел стал податливым, а это значит, что человек может расширить себя с помощью технологий больше, чем когда-либо прежде.
Или, как заметили Чалмерс и Кларк: «Только что нам удастся победить господство кожи и черепа, мы сможем увидеть себя настоящими созданиями мира».
*Двиджа Мехта — исследователь этики искусственного интеллекта и философ сознания в Центр будущего интеллекта Леверхальма, Кембридский университет.
