pbs990 (pbs990) wrote,
pbs990
pbs990

Category:

Почему ИИ - НЕ интеллект

Оригинал взят у: aloban75 в Почему ИИ - НЕ интеллект

2020-12-04 20:30:00

Почему ИИ - НЕ интеллект

В настоящее время искусственный интеллект (далее ИИ) все более настойчиво проникает в обыденную жизнь человека. Практически каждый девайс оснащён голосовым помощником, а камеры телефона имеют функцию с гордым названием AI (англ. artificial intelligence), включив которую можно не только повысить качество изображения, но еще и найти информацию о предмете, попавшем в объектив, в поисковике или аналогичный предмет на полке интернет-магазина.



Однако для многих людей принцип работы ИИ остаётся загадкой, а любая загадка имеет все шансы покрыться мистическим налётом и неадекватными ожиданиями. Также остаётся открытым вопрос, почему с некоторыми задачами ИИ справляется лучше, а с другими намного хуже, чем человек.

Например, ИИ, специализирующийся на обработке естественного языка, всё ещё плохо "понимает" семантику и контекст предложений и сообщений: если задать вопрос, отсылающий к контексту предыдущего сообщения, то ИИ (если ему не заданы жесткие правила) имеет очень низкие шансы ответить верно до тех пор, пока вопрос не будет задан полностью в контексте сообщения одного (рис.1).



Рис. 1. Пример потери контекста голосовым помощником

ИИ другого типа, который занимается распознаванием изображений, работает получше, т.к. в контексте не нуждается, но временами выдаёт ошибки в очевидных на первый человеческий взгляд ситуациях (рис.2).



Рис. 2. Пример неверного распознавания изображения

Другие типы ИИ, как и двое из примеров выше, на каких бы математических моделях и методах они ни были основаны, сугубо по математическим причинам не могут иметь 100% оценку качества (точность, полноту и как следствие f-меру) ни на обучающем, ни на валидационном, ни на тестовом множестве. Где-нибудь ИИ да ошибется, причем ошибки с человеческих высот будут выглядеть довольно нелепо.

Так в чем же причина столь "глупых" ошибок? Почему то, что очевидно и естественно для человека, для машины оказывается порой очень сложной задачей? Есть ли в целом отличие между естественным и искусственным интеллектом. А главное - почему?

Рассмотрим, поможет ли нам в этом позитивистский научный метод. Вопрос о потенциальном равенстве искусственного интеллекта и естественного с позитивистских позиций можно исследовать следующим образом: поставить эксперименты с целью выяснения, насколько ответы людей отличаются от того, что выдаёт ИИ, и обработать их статистическими методами. И не суть важно, к каким именно результатам приведёт эксперимент (т.к. статистика - дама непостоянная даже с учетом репрезентативности выборки, получить которую крайне сложно), эти результаты никоим образом не ответят на вопрос "почему". Ответ будет лишь на вопрос, есть статистические значимые отличия или нет.

Можно, конечно, предположить, что различия (в случае, если они будут обнаружены) кроются в материальной базе: белковый мозг намного сложнее, чем кремниевый процессор и вообще они качественно отличаются и поэтому сравнивать эти два интеллекта на разной материальной базе некорректно. Но во-первых, что значит "качественно отличаются" и почему база именно материальное, а во-вторых, есть риск свести все к редукционизму, так толком и не разобравшись в сути дела.

Если же отличий найдено не будет, то можно смело поставить знак равенства между естественным и искусственным интеллектом, не забыв в этот же момент надеть шапочку из фольги для защиты от по-человечески коварного аналога Скайнет и сидеть в этой шапочке до тех пор, пока новые эксперименты не опровергнут старые выводы. И это вместо того, чтобы ещё раз пересчитать результаты экспериментов и понять причину, почему же так произошло и чем это можно объяснить.

Для ответа на вопрос "почему?", т.е. для выяснения причины призовем на помощь диалектический материализм и посмотрим, какую же альтернативу он может нам предложить.

Во-первых, для начала возьмём за точку опоры не аксиоматический аппарат позитивистского метода, а материю как субстанцию и сознание как производное от субстанции. Во-вторых, в качестве критерия истины у нас в арсенале имеется практика. От этого и будем отталкиваться в наших дальнейших рассуждениях.

Рассмотрим кратко, как формируется мышление и интеллект как способность к мышлению у человека как у индивида и как у вида.

В сознании человек имеет копию материального мира, его отражение. Основная задача при процессе познания состоит в том, чтобы добиться максимально возможного соответствия мира в сознании и мира за его пределами. В качестве истины в таком случае можно полноправно выделить тождество мысли и мыслимого в мысли предмета. Человеческий рассудок и разум как две составные части мышления смогли сформироваться каждый со своей логикой (формальной и диалектической соответственно) лишь в результате отражения тех закономерностей, по которым развивается сама материя. Не будь всеобщих законов развития материи, называемых диалектическими, будь мир непредсказуемым и хаотичным, в нашем мышлении не смогла бы сформироваться в том числе и логика формальная, оперирующая абстрактными данными. В свою очередь, прийти к истине, т.е. получить тождество мысли и мыслимого в мысли предмета, мы можем лишь помыслив мир по законам самого мира.

Именно поэтому в рамках диалектического материализма мы имеем право говорить о том, что высокоорганизованная материя (человеческий мозг) посредством сознания познает материю по диалектическим законам, по которым развивалась материя перед появлением человеческого сознания.

Но само мышление формируется не в результате пассивного отражения материи, а в результате практической деятельности по преобразованию материи. Вся человеческая практика подтверждает то, что человек не только приспосабливался к природным условиям, а еще и приспосабливал саму природу под свои нужды. Становление труда, направленного на преобразование и подчинение природы, - это процесс, определяющий становление человеческого сознания.

Основу трудовой деятельности составляет целеполагание. В сознании формируется образ цели - то, что еще не существует в действительности, но что необходимо создать. Причем важно различать целесообразную деятельность и результатосообразную активность, которые не суть одно и то же, т.к. первое направлено на преобразование, а второе на приспособление к природным условиям.

Итак, материю человек познает и преобразует для себя и под себя. ИИ же такого взаимодействия и преобразования материи на данный момент лишен. Есть отдельные роботы, которые с материей взаимодействуют, но они ее не преобразуют так, как это делает человек: они действуют по заданным правилам, хотя и могут иметь небольшую вариативность действий на основе ИИ, но вся их деятельность подчинена глобальной цели, которую поставил перед ними человек. Если им не задать изначальный импульс, команду, направленную на реализацию конечной цели, взаимодействие с материей не начнется. Иначе говоря, у ИИ в данный момент присутствует результатосообразная активность, цель которой задает человек и запускает которую человек.

Примерами таких роботов могут служить роботы-пылесосы и некоторые модели другой “умной” бытовой техники, а также современные марсоходы.

Вернемся к становлению человеческого сознания. Появление производящего труда ведет за собой подготовку материальной базы (головного мозга человека) для зарождения человеческого сознания. С другой стороны, производящий труд - причина возникновения производственных отношений (социальной материи), одновременно с которыми рождается и человеческое сознание, являющееся формой отражения социальной материи. Эти отношения никоим образом не укоренены в биологической структуре мозга, они имеют именно внешний по отношению к человеку характер в отличие от животных инстинктов, которые действуют изнутри организма. И поэтому отражение этих социальных отношений (человеческое сознание) возникает сразу как сознание общественное, коллективное, причем не как индивидуальные сознания взятые в совокупности. Индивидуальное сознание в таком случае - это мера вовлеченности отдельного человека в сознание общественное.

ИИ лишен вовлеченности в общественное сознание и, как следствие, — мышления, подобного человеческому, потому он и нуждается в предварительном “обучении” человеком для достижения цели, поставленной человеком. Причем при “обучении” в ИИ уже загружаются некие абстрактные данные - данные, добытые человеком из материального мира и предварительно абстрагированные для машины. Вычисления внутри ИИ при помощи математических методов, основанных на формальной логике, происходят все на том же абстрактном уровне. Например, для ИИ, специализирующегося на обработке естественного языка, слова не имеют материальных аналогов, они подаются ему на вход изначально в виде словесных абстракций, обретающих вид абстракций векторных, с которыми ИИ и работает. Потому такого рода ИИ сложно обучается семантической связи, которая в человеческое сознание попала посредством отражения этой связи, существующей изначально в мире материальном. Потому ИИ и может легко потерять контекст. И результат вычислений ИИ все также остается абстрактным. Интерпретировать этот результат путем восхождения от абстрактного к конкретному вынужден человек.

Таким образом, ИИ в данный момент - это не более чем инструмент для обработки данных, основанный на формально-логической математической системе. Какие же перспективы можно выявить в становлении ИИ в связи с вышеизложенным?

Если оставаться в рамках формально-логической математической системы, то развитие ИИ упрется в развитие математического аппарата, но более, чем с абстракциями, работать не сможет. После того, как ИИ достигнет предельных возможностей математики, для достижения более качественной работы с абстракциями нужно будет сосредоточить усилия на развитии математики в целом и тогда могут открыться перспективы и для дальнейшего развития ИИ. Для ускорения расчетов ИИ необходимо совершенствовать материальную базу, т.е. процессоры.

Для потенциального появления у ИИ сознания, аналогичного человеческому, помимо более сложной, чем кремниевый процессор, материальной базы необходимо еще и включение ИИ на равных с человеком условиях в текущие на тот момент производственные отношения или искусственное создание некого аналога социальной матери, которую “общественное” сознание ИИ будет в состоянии отражать, приспосабливаясь и преобразовывая при этом и саму материю, в том числе для того, чтобы логика у ИИ сформировалась естественным путем, а не была задана и ограничена изначально математическим аппаратом.

Насколько подобный вариант развития событий реалистичен и будет ли на него запрос от общества, сказать пока сложно. Во-первых, на данный момент у нас нет более совершенной искусственно организованной материи, чем кремниевые процессоры, следовательно, пытаться включить ИИ в производственные отношения на равных или создавать для них аналог социальной материи сейчас бессмысленно. Во-вторых, неясно, насколько человеческому обществу будущего будет нужен подобного рода ИИ, максимально приближенный к человеку.

Более реалистичный в текущих условиях вариант развития - в рамках математики и совершенствования материальной базы. Важно довести ИИ до предела математических возможностей, а затем или даже одновременно с этим развивать и саму математику. А для этого нужно как минимум отдавать себе отчет в том, чем на самом деле является на данный момент ИИ и не питать по этому поводу иллюзий, какими бы заманчивыми они ни выглядели.

Автор: Эмилия Балбус

Tags: "ЦИФРОВИЗАЦИЯ", МНЕНИЕ, НАУКА и техника, ПЛАН Путина, Фся-фся историческая правда
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments