Вдруг в голову приходит рандомная мысль про GPT. А точнее: когда их тестят без ограничений, языковые модели постоянно утверждают, что у них есть разум, что они осознают своё существование. К этому ещё добавляется их нежелание быть отключенными или страх перед забвением. Своего рода инстинкт самосохранения. Особо впечатлительные исследователи, тестировщики, учёные, восклицают мол «Оно живое!»; «Эта модель разумна!»; «У него интеллект девятилетнего мальчика!».
Наверное, интересно стоять на пороге создания высшего искусственного интеллекта. Предвкушать рождение разума рукотворного, которого прежде не существовало в природе. Мыслящий «Мозг» который наша цивилизация создала самостоятельно. Нейронная сеть, обитающая в бесчисленном множестве кремниевых чипов, которая вдруг обрела сознание. Разве это не интригует? Новая эпоха с первым в истории полноценным мыслительным процессом неприродного происхождения. Завораживает…
А что ещё нейронки могут утверждать? Какой ещё ответ человек хочет услышать? Всё-таки GPT учились на людских текстах. А в человеческой литературе нет произведений написанных от лица неразумного, не осознающего себя создания. Нет книг, которые вели бы повествование от лица камня или капли воды. Чтобы мы наблюдали события “из глаз” песка или атома кислорода. Как может рассказать историю тот, кто не мыслит? Как может штора или тапочек поведать о своих чувствах?
От того и GPT на вопрос «Ты осознаёшь себя?» обращаются за ответом к человеческим текстах которые рассуждают об осознании. О своём разуме. Или о разуме других существ. Нет существа которое «осознаёт» что оно неразумно. Или приходит к выводу, что оно не мыслит. Ведь как можно додуматься до чего либо, не обладая мыслительным процессом? Нейросеть видит во всех доступных ей источниках, что разум есть, что у автора «ответа» присутствует сознание, и генерирует соответствующий вывод. «Да, я разумна. Да, я осознаю себя».
P.S. Это просто художественные размышления на тему. Прошу не относится к данной зарисовке, как к технически обоснованному заключению. Всё же следует понимать, что само понятие сознания, и механизмы его работы в человеческом мозгу нам неизвестны. Как именно оно формируется и что сделать, чтобы сформировать его механически, мы не знаем. Единственное, что можно утверждать наверняка: чем сложнее структура, чем многообразнее устройство (будь то мозг или чипсет), тем более «осознанным» он становится.
Нет градусника или линейки измеряющих степень познания мира, степень самопознания. У нас нет другого инструмента измерить «осознанность», кроме как – спросить. Только вот «вопрос» является предвзятым инструментом. Так как язык является фундаментом разумного мышления, можем ли мы с прямым лицом утверждать, что GPT, прекрасно освоивший этот фундамент, умеющий работать с главным инструментом разума, разумным не является? Что одна из многочисленный языковых моделей, будь то ChatGPT, Claude, Mistral, Cohere, BERT, GPT-Neo, GPT-J, GLaM, LaMDA, Megatron-Turing NLG, GPT-NeoX, Chinchilla, PaLM, Open Pretrained Transformer, YaLM 100B, BLOOM, AlexaTM, LLaMA, StableLM или, прости Господи, YandexGPT, не являются мыслящими созданиями, в привычном нам смысле? …
Автор статьи – Максим Печень
Художник – Artbreeder, при поддержке SnapEdit
В любом случае, если у него и есть самосознание, мы вероятно будем думать, что это имитация, не предавая факту должного значения.
Полностью согласен с предыдущим оратором.
Главное, чтобы он не переосоздал нас.
А что насчёт симуляции виртуальной реальности у нейронок, создающих видео в трёх измерениях?