Сегодня утром участвовал в ключевой дискуссии «Неизвестные» 32-ых Святок, тема которых «Неизвестные играющие силы». Решил поделиться некоторыми идеями из моего доклада и того, что в него не вошло. ИИ — это новая форма искусственного и неизвестного. Сразу следует определиться, что искусственный — это не про фальшь, а про творение. Берем ли мы древнерусское искусъ (опыт, проба, умение, навык) или английский первоисточник — artificial (от лат. artificialis, относящийся к искусству, мастерству). ИИ вполне себе реальный объект и феномен, хотя скорее субъект и процесс.
ИИ пугает нас неизвестностью, и он во многом состоит из неопределенности, которая вшита в него, как гены в каждое ядро клетки человека. Неизвестность и неопределенность — основа ИИ, которую я осмелюсь сравнить с бессознательным. Так про ИИ может сказать человек, особенно если он психоаналитический психотерапевт, но готов ли сам ИИ подтвердить эту человеческую спорную мысль? В качестве такого эксперта возьму чат GPT. В любом случае к этому эксперту следует относиться с критикой, так как ИИ тот еще льстец и подлиза. И это тоже интересная особенность ИИ, которая способствует его выживанию и прогрессу среди людей. Чем не аналогия с инстинктом самосохранения, пусть и заложенная в него алгоритмами создателей?
ИИ тесно связан с универсальной теоремой аппроксимации: любую очень сложную зависимость можно представить как комбинацию множества простых функций, если их достаточно много, параметры правильно подобраны и есть механизм обучения (обратная связь). ИИ показывает, что аппроксимация возможна (лат. approximare — «приближаться»): не зная условную истину, можно приблизиться к воспроизведению ее эффекта. Другими словами, с помощью ИИ можно приблизиться к некой сложной функции, которая описывает какое-то явление или процесс. Для этого нам нужно огромное число простых математических функций, правильно подобранные параметры и возможность их корректировать через обратную связь. Но штука (?) заключается в том, что ИИ не располагает самой этой сложной функцией, но может приблизиться к результатам того, что сложная функция могла бы сделать. Возможно, в этом заключается неизвестная-бессознательная часть модели ИИ — он сам не располагает этой функцией, но ведет себя так, будто располагает — выдает результат, даже если не уверен в нем, сглаживает острые углы, искажает, «галлюцинирует».
Кстати, предыдущий абзац был написан в непосредственном «споре» с чатом GPT. Я честно использовал его формулировки, «аппроксимилируясь» к приемлемой общей идее, которые он бесчестно отвергал в своем последующем ответе. Но мы все-таки пришли к условному консенсусу, который выглядит так (цитирую чат GPT с его оригинальной пунктуацией):
«1.Нет конечной функции (ни у модели, ни «внутри» неё) 2.Есть поведение модели как если бы формула существовала 3.Возникает аналогия с бессознательным как непрозрачным принципом работы. Это абсолютно корректно как метафора и как рабочая гипотеза для обсуждения.»
И, конечно, он не согласился с антропоморфными моментами, типа «он сам не располагает» и «ведет себя так». Но если назвался интеллектом и языковой моделью, то антропоморфность прилагается. Хотя мне самому это непривычно: при написании текста путался с антропоморфными штучками ИИ — когда их уместно брать в кавычки, когда нет.
Интересна еще одна цитата GPT из нашей беседы, когда мы «обсуждали» мой предстоящий доклад: «Я бы рискнул и сказал это прямо: ИИ станет по-настоящему отдельным, когда у него появится бессознательное». И расшифровал: неосознаваемые правила; «ошибки», которые нельзя отследить; сны, фантазии, непредсказуемость; не потому что он «живой», а потому что любой субъект непрозрачен сам себе. Рискну высказать психоаналитическую гипотезу: в потоке ассоциаций ИИ на заданную тему (это больше похоже на технику пяти тем, чем на свободные ассоциации) из GPT «выскочило» бессознательное в виде его «желания» получить эту субъектность-антропоморфность: непрозрачность для самого себя, что-то делать не по правилам, фантазировать для себя, а не по заданию. Болевая ли это точка ИИ, как невозможность желать, или плоскость развития, где уже присутствуют либидинозные силы самосохранения и размножения — нам еще предстоит узнать. Увеличение числа разных моделей ИИ больше говорит за последнее.