Лекция 4. Есть ли у искусственного интеллекта разум?

О чём лекция

Что такое часы? Не шестерёнки и не циферблат, а всё, что показывает время. Функционализм переносит эту идею на разум: ментальное состояние определяется не материалом, а ролью, которую оно играет между стимулом, другими состояниями и поведением. Если это так, разум может быть реализован не только в нейронах, но и в кремнии.

Отсюда вопрос, который перестал быть умозрительным. Лекция проходит путь от теста Тьюринга и ЭЛИЗЫ до ChatGPT: в экспериментах 2024–2025 годов языковую модель принимали за человека чаще, чем самих людей. Но прохождение теста не решило вопроса о понимании — и на сцену выходит «Китайская комната» Джона Сёрла вместе с её критикой: ошибкой состава и тем, что «манипуляция символами» — лишь способ описания.

Отдельная часть посвящена реальным спорам о сознании ИИ: история Блейка Лемойна и LaMDA, позиции исследователей и компаний, опросы и первые законы об ИИ. В финале — главная слабость функционализма: мазохист и инвертированный спектр показывают, что функциональная роль не схватывает, каково это — иметь опыт.

Главные мысли

1. Функционализм определяет ментальные состояния через их роль в системе, а не через материал, поэтому разум множественно реализуем.
2. Языковые модели прошли тест Тьюринга, но это не отвечает на вопрос, понимают ли они.
3. В «Китайской комнате» Сёрла есть ошибка состава: из того, что часть системы не понимает, не следует, что не понимает система.
4. Вопрос о сознании ИИ стал практическим — от законодательства до этики обращения с моделями.
5. Главная слабость функционализма — квалиа: две функционально одинаковые системы могут переживать мир по-разному.

Содержание по главам

1. 0:00
   Разум как функция: что такое функционализм?Часы, фильм на разных носителях и функциональная роль боли: что такое функционализм и как он дополняет токенную теорию тождества.
2. 6:11
   Машины, которые говорят: от теста Тьюринга к языковым моделямОт теста Тьюринга и ЭЛИЗЫ до ChatGPT: языковые модели проходят тест, но понимают ли они?
3. 12:42
   Китайская комната: понимает ли машина язык?Мысленный эксперимент Сёрла, синтаксис без семантики и его критика: ошибка состава и компьютер как физическая система.
4. 18:49
   Разум ИИ: вопрос, который стал реальным прямо сейчасЛемойн и LaMDA, позиции исследователей, опросы и законы об ИИ: вопрос о сознании машин сегодня.
5. 26:24
   Ахиллесова пята функционализма: проблема квалиаМазохист, инвертированный спектр и почему функционализм не объясняет квалиа.