Науковці назвали три причини скептицизму щодо свідомості штучного інтелекту
Автори Nature пояснили, чому вважають сучасний штучний інтелект несвідомим і сумніваються у появі свідомості в кремнієвих системах.
Автори коментаря в Nature заявили, що сучасні системи штучного інтелекту не є свідомими, а за нинішньої траєкторії розвитку навряд чи стануть такими. На їхню думку, суспільство має чіткіше розрізняти здатність ШІ виконувати складні завдання та наявність суб’єктивного досвіду.
Науковці визначають свідомість як здатність до суб’єктивних переживань — те, що зникає під час сну без сновидінь або загальної анестезії та повертається після пробудження. Вони застерігають, що помилкове приписування свідомості системам ШІ може відволікати ресурси від істот, чия здатність відчувати не викликає сумнівів.
Інтелект не дорівнює свідомості
Першою причиною для скептицизму автори називають різницю між інтелектом і свідомістю. Інтелект стосується виконання функцій, тоді як свідомість — самого переживання та відчування. У людському мозку деякі складні процеси відбуваються без усвідомлення: зокрема, мозочок коригує та планує рухи, хоча людина не відчуває його обчислень.
Великі мовні моделі можуть здаватися свідомими через здатність підтримувати розмову. Однак вони навчаються на величезних масивах написаних людьми текстів, зокрема про думки, почуття і переживання. Автори вважають, що мовна вправність спонукає людей проєктувати на такі моделі людські властивості. Для порівняння вони згадують AlphaFold: ця нейромережа також працює на кремнієвому обладнанні, але прогнозує структури білків і тому рідше викликає припущення про свідомість.
Сумніви щодо кремнієвих систем
Другий аргумент стосується припущення, що для свідомості досить алгоритмів певного типу незалежно від матеріалу, на якому вони реалізовані. Цю позицію називають обчислювальним функціоналізмом. Автори погоджуються, що обчислення можуть забезпечувати окремі форми інтелекту, однак не вважають доведеним, що цього достатньо для появи свідомості.
Дискусія має практичне значення через заклики розглядати добробут і права ШІ. Раніше дослідники Anthropic повідомляли про виявлення в моделі Claude обчислювальних ознак певної форми свідомості, а біолог Річард Докінз і піонер ШІ Джеффрі Гінтон припускали, що системи ШІ вже можуть бути свідомими.
