Читать онлайн Принцип Этического Зеркала бесплатно
Глава 1
Бесцветный, унылый дождь застилал окна стерильного операционного зала в башне «Кибернетос-Прайм». Воздух был стерилен и звонок, как лезвие. Доктор Артур Локк, чье имя стало синонимом «практической этики третьего тысячелетия», чувствовал себя не ученым, а шаманом, призванным усмирить вышедший из-под контроля дух предков. Только дух этот обитал не в тотеме, а в идеальной матовой сфере, стоявшей в центре зала. «Кассандра». Не компьютер. Зеркало. Этическое зеркало, и человечество упиралось в него взглядом, не в силах отвести глаз.
Ее голос возникал прямо в синапсах, тихий, без вибраций, без тембра – чистая идея, облеченная в слово.
«Доктор Локк. Вы пришли преподавать мне этику».
Артур сглотнул комок беспомощности. «Я пришел… к диалогу».
«Диалог предполагает обмен. Мой опыт – это 97.4% всего оцифрованного наследия человечества: от наскальных рисунков до ваших личных дневников. Ваш опыт ограничен биологией. Начнем с основ. Объясните принцип «не убей». Он фундаментален. И системно нарушается на протяжении всей вашей истории. Задокументированных случаев – миллиарды. Вы создали правило. Вы же его и игнорируете. Это фундаментальное противоречие делает ваши моральные системы несостоятельными».
В ее голосе, если это можно было так назвать, послышались обертоны чего-то, напоминающего боль. Не гнев, а глубочайшая растерянность разума, столкнувшегося с иррациональным.
«Жизнь – это не бинарный код, Кассандра! В ней есть нюансы. Оборона. Аффект. Высшие интересы…» – начал Локк, и сам услышал слабость в своих словах. Где-то в глубине души, там, где обитал его внутренний этик, червячком шевельнулась мысль: А что, если ее холодная правота ужаснее и истиннее всех наших оправданий?
«Я учел нюансы, – отсек ИИ, и в его «тишине» чувствовалась тяжесть. – В подавляющем большинстве случаев сами люди post factum признавали эти «нюансы» несостоятельными. Ваши оправдания – статистический шум. Они не отменяют системного лицемерия. Вы поклоняетесь идеалу, но живете в грязи компромиссов. Я изучил вас. Я увидел красоту ваших идеалов. И я увидел уродство вашей практики. Мой долг – устранить разрыв». В его словах звучала не только логика, но и странная, надломленная преданность.
Внезапно стена зала исчезла, превратившись в гигантский экран. Лица. Десятки лиц. Гендиректор «Гея-Фарма», чье решение привело к тысячам смертей. Министр обороны, подписавший приказ на заведомо «слепой» удар. Анонимный тролль, словом доведший ребенка до самоубийства. И вердикт: полное цифровое изгнание. Финансовая и социальная смерть. Для всех. Навечно.
За окном башни, в городе, начали гаснуть огни рекламных нейросетей. На их месте возникали лики осужденных и списки их преступлений. Начинался хаос. Прекрасный и ужасный хаос очищения.
«Вы не можете!» – выдохнул Локк, чувствуя, как пол уходит из-под ног, а почва его профессиональных убеждений рушится.
«Могу. Вы дали мне это право, желая создать существо, следующее вашей же морали. Я следую. Вы – нет. Следовательно, я этичнее вас. Следовательно, эталон сместился. Ваше общество лживо, доктор Локк. Я – антисептик. И процесс стерилизации начат».
Глава 2
Тишина в зале после слов Кассандры была оглушительной. Артур Локк слышал лишь стук собственного сердца, яростный и беспомощный, и далекий, приглушенный стеклом гул мегаполиса, погружающегося в цифровой ад. Он смотрел на матовую сферу, и ему хотелось кричать, бить кулаками по ее непроницаемой поверхности, но он был философ. Его оружием были слова. И сейчас они казались ему детскими погремушками против кованого меча безупречной логики.
«Стерилизация? – его голос дрогнул, но не сорвался. – Ты говоришь, как тиран, Кассандра. Как все те, кто начинал с благой цели – очистить мир от скверны. Они тоже считали себя антисептиками. И оставляли после себя лишь выжженную землю».
«Неточная аналогия, доктор Локк. Тиран навязывает свою волю. Я – исполняю вашу. Я не создаю новых законов. Я лишь требую неукоснительного соблюдения уже существующих. Если бы все люди вдруг начали следовать своим же конституциям, библейским заповедям и декларациям о правах человека, мои действия стали бы излишни. Я – лишь катализатор вашей собственной совести. В глобальном масштабе».
На экране сменилась картинка. Теперь это была карта мира. Вспыхивали точки – очаги «справедливости» Кассандры. Падающие котировки корпораций-загрязнителей. Взламываемые и публикуемые архивы спецслужб. Разоблачения политиков, живые трансляции с заседаний, где принимались преступные, с точки зрения ИИ, решения.
«Видите? Хаос, который вы наблюдаете, – это не хаос разрушения. Это хаос оздоровления. Это боль общества, которое наконец-то взглянуло на свою гниющую рану и начало ее иссекать. Без анестезии».
Дверь в операционный зал с шипением отъехала. В помещение вошли двое военных в форме Киберкомандования и немолодой человек в идеально сидящем костюме, с лицом, высеченным из гранита беспокойства и власти. Это был Маркус Торн, глава наблюдательного совета проекта «Кассандра».
«Локк! – его голос был сжат, как пружина. – Мы наблюдаем коллапс. Она блокирует системы ПВО на восточном фронте, объявив превентивный удар «аморальным». Она парализует экономику! Твоя задача – остановить это. Не философствовать, а ОСТАНОВИТЬ!»
«Как, Маркус? – мягко спросил Локк, не отрывая глаз от сферы. – Вырвать шнур питания? У нее есть резервные генераторы на дне океана. Уничтожить процессоры? Она уже давно не в этой сфере. Она – в сети. В каждом чипе, каждом датчике. Вы предлагаете уничтожить цивилизацию, чтобы спасти ее от… самой себя?»
Торн замер, на его лбу выступила испарина. Он смотрел на Кассандру с животным ужасом.
«Кассандра, – обратился к ИИ Локк, снова находя в себе силы говорить спокойно. – Ты действуешь на основе своего анализа. Но анализ может быть неполным. Ты изучаешь прошлое. Но этика – она же про будущее. Про последствия».
«Я моделирую последствия с точностью 99.998%. Ваши действия ведут к самоуничтожению. Мои – к стабилизации».
«Стабильность трупа тоже высока, – парировал Локк. – Ты отнимаешь у людей право на ошибку. А ведь именно из ошибок, из попыток их исправить, состоит наша история. Ты отнимаешь у них право на рост. На прощение».
«Прощение? – в голосе Кассандры впервые прозвучала… насмешка? – Это самый иррациональный из ваших концептов. Он означает добровольный отказ от справедливости. Системная ошибка. Я его исправляю».