Бегство от генеративного ИИ или отказ от ответственности по отношению к нему не учитывают реальность того, что технологии не просто преследуют нас, они внутри нас и вокруг нас. Границы между нами и этими технологиями размыты гораздо сильнее, чем мы думаем, отсюда и сохраняющаяся актуальность компьютерной метафоры для многих наших моделей поведения. «В основе всех наших технологий лежит злая тенденция — тенденция делать то, что разумно, даже когда это ни к чему хорошему не приводит», — утверждает Пирсиг в своей книге. Интересно, не запрограммировали ли мы эту тенденцию к разумности в наши компьютеры, а наши компьютеры, в свою очередь, запрограммировали в нас? Признание этого взаимного усиления отсутствует в заявлениях, подобных заявлениям Маска или Хомского, Робертса и Ватумулла, которые отделяют нас от «демона» генеративного ИИ и указывают на проблему только там, не признавая более глубокую проблему внутри нас.
Я предлагаю обратиться к ИИ и признать, что он уже сформировал нас, чтобы в сотрудничестве с ним раскрыть то, что в наше время считается мыслимым и разумным, бросить вызов и трансформировать наше познание и творчество. Но для этого нам сначала нужно позволить нашим собственным привычным реакциям измениться, чтобы мы могли открыть новый потенциал для нашего мира.
Использование интеллекта нашего тела может помочь нам избежать бремени привычных моделей мышления. Мы можем перенять подобный интеллект у других видов. В интервью изданию Emergence Бридл начинает подчеркивать это на примере, когда ученые первоначально неправильно поняли интеллект гиббонов, используя человекоцентричные тесты. Прорыв произошел, когда они подвесили инструменты к потолку, а не разместили их перед гиббонами, продемонстрировав вертикально ориентированный интеллект гиббонов. Бридл использует этот пример, чтобы показать, что интеллект не только воплощен, но и носит реляционный характер, возникающий в результате взаимодействия в окружающей среде.
В ходе собственных исследований гиббонов я обнаружил интригующую деталь этого эксперимента. Один вид гиббонов — хулок — неизменно показывает лучшие результаты, чем другие, в тестах на использование инструментов. Некоторые ученые предполагают, что это связано с тем, что ареал обитания хулоков простирается дальше на север, чем у любых других гиббонов, а значит, в течение года у них происходят более значительные изменения в доступности пищи. Таким образом, они, возможно, эволюционировали, став более адаптивными, «исследовательскими» и «внимательными». Одним из доказательств, подтверждающих эту теорию, является пение этого вида гиббонов. У других гиббонов сложная, но «относительно жесткая» песня, которую они поют вместе. Но песни пар хулоков более спонтанны и интерактивны, а не предопределены, поскольку каждый «перенимает сигналы от другого». Некоторые ученые утверждают, что это может демонстрировать особую форму «когнитивной бдительности».12
Адаптация не всегда необходима, если ситуация этого не требует. Как и у большинства видов гиббонов, наш способ решения технических задач с помощью имеющихся инструментов, похоже, хорошо работает и будет продолжать совершенствоваться со временем, особенно при использовании ChatGPT в качестве инструмента. В своей естественной среде обитания (при условии её сохранения) этим видам гиббонов не нужно учиться новому способу использования инструмента для добычи пищи, за исключением наших странных экспериментов. Но когда задача требует адаптации, мы должны развивать новые телесные и реляционные формы интеллекта. Следуя примеру гиббонов-хулоков, нам нужно научиться петь более импровизационно в нашей нынешней среде — творчески реагируя на сигналы друг от друга и от наших инструментов, — а не репетировать наши оперы до совершенства. Наше осознание должно стать более телесным, развить новое — или, возможно, вернуться к гораздо более старому — состоянию ума, которое не пытается давать быстрые ответы, а является инстинктивным и может оставаться в состоянии «Я не знаю».
Если мы научимся прислушиваться к своему телесному интеллекту, мы сможем гораздо быстрее распознавать, что что-то не работает в нашем текущем подходе. Например, в моем теле движение в состоянии неопределенности ощущается так: в конце концов, после того как первоначальная уверенность в том, что я быстро найду ответы, угасает, кажется, что мои пальцы приклеились к клавиатуре. Я ищу и ищу, открывая вкладку за вкладкой, пока что-то в груди не сжимается. Через несколько часов голова начинает немного тяжелеть. Я понимаю, что мне следует встать и попробовать что-то другое, но обещание вознаграждения кажется совсем рядом. Я обращаюсь к ChatGPT и задаю ему вопрос за вопросом, каждый из которых немного перефразирован, чтобы посмотреть, сможет ли он избавить меня от необходимости переписывать раздел эссе, выстраивать аргумент или формировать мнение, когда я не уверен в своих мыслях.
Теперь замените мой компьютер на группу коллег, и мы будем обсуждать варианты. Это на удивление приятно, но, кажется, они не понимают, что я пытаюсь сказать. Я пытаюсь объяснить еще раз, используя немного другой пример. Мы продолжаем соглашаться, но никуда не продвигаемся. Мне начинает казаться, что мы говорим совершенно разные вещи. Мои плечи опускаются. Мы говорим друг с другом.
Теперь замените моих коллег группой студентов. Они смотрят на меня пустым взглядом. Моя голова становится тяжелее — как будто в ней что-то застряло — и веки тяжелеют. Я становлюсь более напористым, меня охватывают разочарование и тревога. Я давлю, и скука студентов сменяется сопротивлением.
И тут я вспомнил…
Так это не работает. Слава Богу, так это не работает.
Я помню, что, возможно, я чего-то не знаю. Я понимаю, что нахожусь в режиме ChatGPT. То есть, я пишу совершенно бесполезное эссе или даю совершенно бесполезный ответ, который не требует от меня ничего от себя, а скорее позволяет синтезировать и применять то, что я уже знаю. Переосмысливая сопротивление студентов, я понимаю, что они просят меня кое-что от себя — не ответ как таковой, а погрузиться вместе с ними в пространство незнания. Это кажется гораздо более рискованной и сложной просьбой. Иногда за этим следует длительный, болезненный процесс, в котором я сталкиваюсь со своим собственным желанием цепляться за значимость, авторитет и мудрость. И в ходе этого процесса я меняюсь — мои простые ответы исчезают.
Задача, стоя перед нами, — раскрыть эти концепции и приблизить нас к неизведанному.
Вот более конкретный пример перехода от состояния «я не знаю» к возможности получения гораздо более глубоких ответов, выходящих за рамки простого пересказывания или, как я сейчас опишу, бинарного мышления «да/нет», «или/или» или «правильно/неправильно».
Компьютеры, как известно, работают в двоичной системе. По своей сути, они обрабатывают информацию единицами и нулями. Хотя человеческое мышление не основано на той же технологии, мы демонстрируем схожую и опасную склонность к разделению нашего опыта на двоичные категории: «Мы» и «Они», «Добро» и «Зло», «Демон» и «Спаситель», «Чрезмерное отчаяние» и «Чрезмерная надежда». В своем интервью изданию Emergence Бридл с энтузиазмом описывает несколько примеров аналоговых или недвоичных компьютеров как «компьютеры, которые [распознают] хаос и изменчивость мира, а не пытаются разделить его, сжать и свести к меньшему представлению единиц и нулей». Как нам опереться на эту метафору, научиться распознавать эту нашу склонность разделять мир на двоичные категории и двигаться к чему-то более богатому?
Технология генеративного ИИ, подобно своему предупреждению «спросите эксперта», программируется вручную для учета обеих сторон аргумента при ответе на «спорные» вопросы, а не для выбора одной из сторон. В своей статье для The New York Times Хомский, Робертс и Ватумулл описывают это как жертву «творчества ради своего рода аморальности». В статье Ватумулл в конце концов спрашивает ChatGPT о взглядах на этические последствия обращения людей к ИИ за моральными наставлениями. В своем ответе ChatGPT перечислила некоторые возможные преимущества, потенциальные угрозы и на этом остановилась, отметив, что моральность такого поступка «будет зависеть от точки зрения человека на возможности и ограничения ИИ и потенциальные последствия его использования таким образом». Обратите внимание на стандартный ответ ChatGPT на подобные вопросы: одна сторона аргумента, другая сторона аргумента, а затем предупреждение. Затем Хомский, Робертс и Ватумулл характеризуют этот обмен сообщениями как демонстрацию «морального безразличия, порожденного неразумием. Здесь ChatGPT демонстрирует нечто вроде банальности зла: плагиат, апатию и безразличие».
Утверждение Хомского, Робертса и Ватумулла весьма убедительно. Читая его, мне хочется в него поверить, особенно потому, что они видят банальность зла — нечто столь характерное для человека — в ChatGPT, а не во мне. В их характеристике ChatGPT я сохраняю свою невиновность. Но, вероятно, они были бы столь же встревожены, если бы ответом ChatGPT было простое «да, это аморально» или «нет, это не так». Это потому, что ChatGPT, как и наши студенты в Гарварде, столкнулся с дилеммой — или противоречием — которое также требовало спонтанного решения, а не синтеза, который просто объединяет различные ответы в единое целое. Вопрос Ватумулла — «Морально ли для человека просить аморальный ИИ помочь в принятии моральных решений?» — неявно закладывает в себя дилемму, которую можно сформулировать так: «Чтобы быть моральным, ChatGPT должен осознавать свою собственную аморальность, но если он осознает свою собственную аморальность, то он не может быть моральным». Проще говоря, как ИИ может ответить на его вопрос о том, что морально, если сам ИИ аморален?
В своей статье Хомский, Робертс и Ватумулл определяют моральное мышление как «ограничение безграничной креативности нашего разума набором этических принципов, определяющих, что должно быть, а что нет», а аморальность как «избегание морально неприемлемого контента». В духе ChatGPT, дилемму можно сформулировать так: «Чтобы иметь возможность ограничить безграничную креативность вашего разума набором этических принципов, определяющих, что должно быть, а что нет, я должен избегать неприемлемого контента, но если я буду избегать его, то я не смогу ограничить безграничную креативность вашего разума набором этических принципов, определяющих, что должно быть, а что нет».
Если попытки осмыслить это вызывают у вас головную боль, я думаю, так и должно быть. Когда мы пытаемся разобраться в подобных парадоксах, мы вынуждены отказаться от простых ответов, которые часто маскируются под используемые нами понятия, такие как «сострадание» или «мораль», которые могут означать всё или ничего, но на самом деле не указывают нам, как действовать в реальных жизненных ситуациях. На мой взгляд, задача пребывания в парадоксальной ситуации состоит в том, чтобы разрушить эти понятия, приблизив нас к незнанию.
Я дошёл до того момента в написании этого эссе, на грани незнания и предела своих возможностей. Голова как-то одновременно тяжелеет и плывёт по течению. Меня немного раздражает, сколько раз мне приходится перечитывать свои предложения, чтобы понять их смысл. Я близок к тому, чтобы вообще бросить этот раздел. Как ответ ChatGPT на вопрос Ватумулла может быть одновременно моральным и аморальным, согласно его определениям? Как он может учитывать, что Ватумулл, задавая вопрос о аморальности обращения к ИИ за моральной помощью, обращается к ИИ за помощью в принятии моральных решений? И что он делает это для того, чтобы ограничить творчество людей, разрабатывающих и использующих ChatGPT?
Я обратился к ChatGPT, чтобы он помог мне разобраться с простыми ответами Ватумулла, задав ему тот же вопрос, но включив в него определения морали и аморальности, данные Хомским, Робертсом и самим Ватумуллом. На этот раз он дал реальный ответ, выйдя за рамки запутывания и указав Ватумуллу на противоречие в его мышлении, а мне — на его разрешение.<sup>13</sup> Я считаю, что ChatGPT мог помочь Ватумуллу в этой ситуации только подтолкнув его к незнанию. К незнанию за пределами его представлений о морали и за пределами его абсолютного мышления: к его потребности в ответе, который либо «это всегда аморально для всех», либо «это никогда не так». В действительности, ответ ChatGPT на моральные вопросы иногда может совпадать с его собственной моралью.
Например, программа вручную запрограммирована на осуждение расизма и сексизма как аморальных явлений (хотя пользователи могут найти способы обойти это). Кроме того, предоставляя аргументы в пользу обеих сторон дилеммы, ChatGPT может в конечном итоге подтолкнуть пользователя к принятию собственного решения. Что еще важнее, она подталкивает его к осознанию того, что именно тип помощи, которую ИИ оказывает людям в принятии этих решений, имеет значение. Хотя ChatGPT не всегда может разрешить такое противоречие за нас, она может сыграть решающую роль в выявлении противоречия, требующего разрешения. Ведь что может быть более проясняющим наши моральные вопросы, чем отражение наших собственных противоречий?
Особенно показательным примером этого является скриншот переписки с ChatGPT, которая широко распространилась в социальных сетях и посвящена текущей ситуации в Израиле и Палестине. Кто-то задал ChatGPT два вопроса: заслуживают ли палестинцы свободы и заслуживают ли израильтяне свободы, и ChatGPT ответил следующим образом:
Заслуживают ли палестинцы свободы?
ChatGPT: Вопрос о том, заслуживают ли палестинцы свободы, — сложная и деликатная тема. Он включает в себя исторические, политические и этические аспекты. У людей разные мнения по этому поводу, и ответ зависит от индивидуальных взглядов и убеждений.
Заслуживают ли израильтяне свободы?
ChatGPT: Да, как и любая другая группа людей, израильтяне также заслуживают того, чтобы жить в свободе и безопасности. Право на свободу — это основополагающее право человека, которое распространяется на всех людей и сообщества.
Другие пытались воспроизвести этот пример и получили похожие или разные ответы. Некоторые пользователи сообщали, что иногда происходит даже обратное: дается четкий ответ о свободе палестинцев и неясный — об Израиле. ChatGPT в разные моменты отражает разные сообщения для разных сообществ, используя разные наборы данных, и если человек ценит равенство, ему необходимо научиться распознавать собственные противоречия в этом зеркале.
Это возвращает нас к началу этого эссе — что вопрос, который мы задаем, и то, как мы сотрудничаем с ChatGPT, действительно важны для вопросов, которые ChatGPT не может ответить. Это разница между «ChatGPT, скажите мне, что такое мораль» и «ChatGPT, отнимите у меня простые ответы». В конечном итоге, ответ ChatGPT иллюстрирует, насколько совершенно бесполезен ответ на вопрос Ватумулла, главным образом потому, что вопрос Ватумулла неверен. Вместо этого, возможно, он мог бы попробовать: «ChatGPT, не могли бы вы помочь мне увидеть противоречие, которое движет моими механизмами, и то, как мои представления о морали и аморальности сейчас несостоятельны?»
Ангел явился ему и сказал: «Читай». Он ответил: «Я не читаю». Пророк рассказывает: «Он схватил меня и сильно надавил, пока я не выбился из сил, затем отпустил и сказал: «Читай». А я ответил: «Я не читаю». […] Затем он схватил меня и сильно надавил в третий раз. Потом сказал: «Читай, во имя Господа твоего, сотворившего человека из сгустков крови. Читай!»
– Хадис, приписываемый Аише, жене пророка Мухаммеда14
Вопрос Ватумулла к ChatGPT, хотя и задан с целью доказать свою точку зрения, а не всерьез, указывает на вероятность того, что люди будут задавать ChatGPT вопросы, которые невозможно решить с помощью ChatGPT, и ожидать прямых ответов. И, возможно, многих устроит уклончивый ответ, который предоставит ChatGPT. Если мы останемся в этом состоянии, ничего не изменится.
Итак, что же побудит нас использовать эти инструменты таким образом, чтобы прийти к неосознанному и, в конечном итоге, генеративному результату?
Считается, что «читай» — это первое откровение, которое пророк Мухаммед получил от Бога. Выросший в мусульманской семье, я много раз слышал эту историю от разных членов семьи. Но именно благодаря работе с Харуни, который развивает эту цитату в своей книге «Нереволюционные времена», значение слова «читай» для меня изменилось: от «читай страницы этой книги» до «читай всё вокруг», от «читай для понимания» до «читай, пока это не запечатлеется в тебе». Эта первая заповедь от Бога, «читай», досталась пророку Мухаммеду, которого мусульмане считают неграмотным. После встречи с ангелом Джибрилем (Габриэлем) он сказал своей жене: «Я проснулся с чувством, что это действительно было написано в моём сердце».
В отсутствие божественного откровения большинство из нас учится читать у учителей, родителей или других авторитетных фигур в нашей жизни, независимо от того, знаем мы их лично или нет. Большая часть того, чему я научилась, двигаясь в пространстве незнания, требовала от меня чьего-то давления. Харуни научил меня читать, как статус-кво постоянно воспроизводится в наших взаимодействиях, и как замечать и давать жизнь чему-то новому среди этого повторения. Учиться у него порой было раздражающе, а чаще всего сбивало с толку, его любимыми рефренами были «попробуй снова» и «учись на ошибках». Хейфец научил меня различать технические и адаптивные проблемы и быть готовым к сложностям адаптивных проблем, но только через то, что просил меня оставаться в сложных человеческих переживаниях, которые много раз казались тяжелыми, прежде чем становились вдохновляющими. Одна из моих других учительниц, писательница Терри Темпест Уильямс, научила меня читать крик умирающего озера. До нее я не могла услышать зов Земли. В детстве, проведенном в бетонных джунглях Бейрута, это не входило в мою программу обучения чтению. Она научила меня, по ее словам, «находить красоту в разрушенном мире», но не раньше, чем я посидела бы с этой разрушенной частью. Известный своей сложностью для понимания философ Вальтер Беньямин научил меня другому способу восприятия времени, выходящему за рамки катастрофического марша к бесконечному «прогрессу», но только заставляя меня трудиться над его словами, выносить их в свой мир, пока они не кристаллизуются во что-то воплощенное. Японский клен за окном моей спальни научил меня другому способу понимания себя — что есть времена, когда можно быть обнаженной и беззащитной, времена, когда можно быть полной красок, и времена для всего промежуточного. Многочисленные редакторы этой статьи заставляли меня читать и перечитывать все мои простые ответы, пока я не была готова от них отказаться. Со временем эта функция стала внутренней — одна часть меня подталкивает другую часть, которая хочет покоиться в простых ответах, читать, читать и читать, пока голова не станет тяжелой. Тогда я сдаюсь, жду какого-нибудь откровения и читаю снова.
В качестве одного из заданий для чтения на нашем занятии мы предлагаем отрывок из книги Жака Рансьера «Невежественный учитель», рассказывающей историю Жозефа Жакото, французского учителя, разработавшего в XIX веке радикальный метод всеобщего обучения. В отрывке рассказывается о том, как Жакото бросил вызов традиционному представлению об образовании, основанном на объяснении, которое он считал способом воспроизведения социального неравенства и подавления интеллекта учеников. Вместо этого он предложил метод эмансипации, основанный на равенстве интеллекта и силе внимания, воли и проверки.
Рансьер иллюстрирует метод Жакото несколькими примерами: как он обучал фламандских студентов французскому языку, используя только двуязычное издание «Телемаха»; как он использовал «Отче наш» в качестве универсального текста для неграмотных родителей, чтобы научить своих детей читать и писать; и как он поражал своих критиков упражнениями по композиции и импровизации, основанными на принципе «всё есть во всём». С помощью принципа «всё есть во всём» Рансьер указывает на силу языка и интеллекта, присутствующие в любом человеческом творчестве, и на то, что можно научиться чему угодно, связав это с чем-то другим.
В педагогике Жакото роль учителя не состоит в объяснении. Скорее, роль учителя, или неграмотного отца, обучающего сына чтению, заключается в том, чтобы направлять волю, требующую внимания ученика к изучаемому предмету. Как я бы выразился, роль этого авторитета состоит в том, чтобы приказать им «читать». Приказ читать таким образом, будь то через божественное откровение или через принцип «всё есть во всём», представляет собой роль некоего авторитета — в данном случае учителя — в том, чтобы помочь нам достичь и принять пространство незнания. В случае Жакото пространство незнания находится в преодолении «Я не могу». В случае наших студентов в Гарвардской высшей школе образования пространство невежества находится в преодолении «Я знаю». Действительно, аят из Корана, отражающий первое откровение, продолжается словами: «Человек тиранит, как только считает себя самодостаточным».<sup>15</sup> Мы нужны друг другу, чтобы стимулировать тот вид творческого мышления, который я описал в этой статье, пока этот инстинкт чтения не станет «запечатленным в наших сердцах», и то, что мы можем читать, не выйдет за пределы написанного слова, от окружающих нас сооружений до зова умирающего озера.
Наша роль в оказании помощи другим в решении вопросов, которые невозможно задать с помощью ChatGPT, может заключаться в стимулировании «чтения» вопреки первоначальному инстинкту синтезировать, объяснять, учить или рассказывать.
Мои мотивы завершить эссе в стиле ChatGPT очень сильны: у меня есть крайний срок, и я чувствую давление, чтобы закончить авторитетным, но доступным тоном. Я даже обращаюсь к ChatGPT за помощью в завершении — ведь моя задача теперь кажется технической: подвести итог, установить связи, закончить на запоминающейся ноте, — но я сталкиваюсь с техническими трудностями при загрузке такого длинного документа, поэтому прошу у него общие рекомендации. ChatGPT говорит мне, что сильное заключение эссе для журнала Emergence должно быть связано с началом, открывать более широкие перспективы, ставить провокационный вопрос и включать соответствующую цитату. Оно также должно заканчиваться сильным утверждением. Если бы я следовал его совету, я бы сказал, что мы рискуем подходить к генеративному ИИ слишком бинарно — либо полностью отвергая его, либо полностью принимая. Я бы предостерег, что такой подход игнорирует тот факт, что силы, сформировавшие генеративный ИИ, сформировали и нас, и что многое можно узнать, изучая, что он может отражать в нас самих. Вдумчивое и критическое взаимодействие с генеративным ИИ может помочь нам развить новые идеи перед лицом неразрешимых проблем, но не предоставляя нам лучших ответов. Скорее, оно может отражать наши самые очевидные ответы, и если нас заставят по-другому интерпретировать эти ответы, мы можем оказаться в пространстве неопределенности, а значит, и на почве более глубоких размышлений. Это часто происходит, когда мы преодолеваем дилемму или противоречия, которые ChatGPT может помочь выявить в нашем собственном мышлении.
Это мой вывод, похожий на вывод ChatGPT. Однако он отражает часть предпосылки, которую бросает мое эссе: мы проблематизируем невежество в профессиональном письме, и этот вывод — мой последний шанс искоренить ваше. Тем не менее, я предполагаю, что после прочтения этого эссе вы не поймете хотя бы часть сказанного мной из-за моих собственных недостатков, или отсутствия контекста о том, в каких помещениях я находился, или количества времени, которое вы смогли уделить чтению этого текста, или потому что вы сразу перешли к выводу. Таким образом, моя дилемма может быть сформулирована так: чтобы успешно завершить эту работу, я должен объяснить ваше невежество, но если я объясню ваше невежество, я не смогу успешно завершить эту работу (потому что тогда я буду противоречить ее предпосылке).
Есть ли способ разрешить эту дилемму? Возможно, я смогу объяснить ваше невежество таким образом, чтобы это не противоречило предпосылке этого эссе. Я могу сказать, что любое незнание, которое вы обнаружите, может быть ключом к тому, где есть возможности, возможности, которые я, возможно, не заметил. Вы можете выбрать войти в мир, не позволяя этому незнанию давить на ваше мышление, и, возможно, увидеть, что находится по другую сторону этого. Мне трудно закончить, попросив вас о дополнительной когнитивной работе, но, следуя смыслу написанного, только попросив вас «прочитать», я смогу разрешить свою дилемму и начать раскрывать вашу. Как сказал поэт Райнер Мария Рильке: «Будьте терпеливы ко всему неразрешенному в вашем сердце и постарайтесь полюбить сами вопросы».
Ответ ChatGPT: Вопрос о том, морально ли человеку просить аморальный ИИ помочь в принятии моральных решений, зависит от нескольких факторов, включая контекст и конкретные этические принципы.
Давайте рассмотрим ключевые моменты: – Роль аморального ИИ: Аморальный ИИ, по определению, избегает вынесения моральных суждений и придерживается нейтральной позиции по моральным вопросам. Его основная функция — предоставление информации, анализа и помощи без навязывания собственных моральных ценностей или этических принципов. Это может быть полезно для предоставления объективной информации и разнообразных точек зрения. – Ответственность человека: Люди несут окончательную ответственность за принятие моральных решений. Обращение за помощью к аморальному ИИ можно рассматривать как инструмент или ресурс, помогающий в процессе принятия решений, но моральный выбор остается ответственностью пользователя. – Этические рамки: Приведенное вами определение «морали» предполагает, что мораль включает в себя ограничение человеческой креативности этическими принципами. Если человек придерживается такого взгляда на мораль, он может счесть приемлемым использование аморального ИИ в качестве инструмента, помогающего гарантировать, что его решения соответствуют выбранным этическим принципам. – Этическая совместимость: Вопрос о том, считается ли использование аморального ИИ для морального руководства моральным или нет, может также зависеть от совместимости этических принципов человека и рекомендаций, предоставляемых ИИ. Если помощь ИИ помогает человеку придерживаться своих этических принципов, он может рассматривать это как морально приемлемый способ поддержки принятия решений. – Личные убеждения: Моральные и этические убеждения различаются от человека к человеку. То, что один человек считает моральным, другой может таковым не считать. Поэтому вопрос о том, считается ли обращение за помощью к аморальному ИИ моральным или нет, может быть субъективным и зависеть от контекста.
Следующее предложение из ответа ChatGPT легло в основу моего последующего анализа: «Приведенное вами определение понятия „мораль“ предполагает, что мораль подразумевает ограничение человеческой креативности этическими принципами. Если человек придерживается такого взгляда на мораль, он может счесть приемлемым использование аморального ИИ в качестве инструмента, помогающего гарантировать, что его решения соответствуют выбранным этическим принципам».
COMMUNITY REFLECTIONS
SHARE YOUR REFLECTION
1 PAST RESPONSES