Думай «почему?». Причина и следствие как ключ к мышлению

За счет чего достигнут прогресс в области нейросетей?Midjourney рисует картины, ChatGPT пишет тексты, которые проходят тест Тьюринга, люди не могут определить, кто с ними общается: человек или машина. В комментариях к этой статье уже могут писать роботы, и вы не отличите их сообщения от сообщений людей!Ответ на вопрос о революции в области нейросетей, как мне кажется, дает книга Джуда Перла и Дана Маккензи «Думай "почему?". Причина и следствие как ключ к мышлению».Вкратце, дело в том, что в математике до недавнего времени не было языка, который описывал бы связь между причиной и следствием. Посмотрите на математические и физические формулы — где там причина и следствие?Была и есть только наука статистика, которая породила монстра Big Data — большие данные.Маркетологи как завороженные начали искать в Big Data способы увеличения продаж. Они думали, что если проанализировать терабайты информации, то можно извлечь грааль прибыли. В эту гонку больших данных включились многие. Выходят статьи, где говорится, например, что на сайте магазина на оранжевую кнопку кликают чаще, чем на зеленую, что на цену акций влияет день недели, «эффект понедельника» и тому подобная чуйня.Эти обработки больших данных никак не объясняют причинно-следственных связей. С таким же успехом определена связь индекса S&Р 500 с объемом производства сливочного масла в Бангладеш (графики совпадали). Наличие корреляции не обозначает причинно-следственных связей. Так, в США рост продаж мороженого коррелирует с увеличением убийств. Нужно ли запрещать мороженое? Или дело в теплой погоде?Книга Джуда Перла и Дана Маккензи «Думай "почему?"» рассматривает эти вопросы. Если научить искусственный интеллект понимать причину и следствие, то мы приблизимся к созданию думающих машин. Как это сделать, витиевато, с уклоном в математику и рассказывается в книге.Приводятся примеры поиска причин и следствий в истории человечества. Например, доказательство, кажется, очевидной связи между курением и раком потребовало не одного десятилетия научных дебатов! Или цинга. От нее умирали моряки миллионами. Было выяснено, что от нее спасают цитрусовые. Бери апельсины на борт — и будет все в порядке. Но истинная причина, что все дело в витамине С, ускользала от ученых на протяжении десятилетий.Антарктическая экспедиция Скотта пострадала от цинги (участники погибли) спустя сотню лет после открытия, что нужно есть для защиты цитрусовые. В те времена считалось, что плоды цитрусовых предотвращают цингу за счет того, что они кислые. С этой точки зрения сгодится любая кислятина. Моряки брали сперва лимоны, потом из экономии лаймы, которые содержали витамина С меньше (они об этом не знали), дальше начали «очищать» сок, разрушая витамин. Врач экспедиции Скотта так вообще считал, что цингу вызывает протухшее мясо, а соки цитрусовых даже не вошли в паек экспедиции.Люди хотят научить искусственный интеллект справляться с нахождением причин и следствий, когда им самим это с трудом удается. Посмотрите на хроники финансовых сайтов и вы увидите, какие только «причины» не вызывают колебания валют и цену акций.Сейчас создан язык диаграмм причинности, который позволил работать в этой области. Между прочим, авторы книги сетуют на то, что математики вплоть до конца 20-го века не могли осознать проблему языка описания причинности и подобраться к ней, но изобретенные математиками диаграммы лично мне напоминают диаграммы Фейнмана для описания взаимодействия субатомных частиц (но о Ричарде Фейнмане в книге ни слова).Успехи нейронных сетей уже нельзя отрицать. И книга «Думай "почему?". Причина и следствие как ключ к мышлению» нащупывает причины этих успехов. Словами авторов, была совершена «революция причинности».