Середа, 26 Серпня, 2026
  • Розмістити рекламну статтю
  • ru Русский
    • ar العربية
    • zh-CN 简体中文
    • cs Čeština‎
    • nl Nederlands
    • en English
    • fr Français
    • de Deutsch
    • it Italiano
    • pt Português
    • ru Русский
    • es Español
    • uk Українська
Політичні новини сьогодні
  • Україна
    Американец привез гильотину к Капитолию в Вашингтоне. ФОТО

    Американец привез гильотину к Капитолию в Вашингтоне. ФОТО

    Паника в банках РФ: россияне придумали, как кинуть государство на деньги

    Паника в банках РФ: россияне придумали, как кинуть государство на деньги

    Военных доставляют в учебные центры без паспортов –  омбудсмен бьет тревогу

    Военных доставляют в учебные центры без паспортов – омбудсмен бьет тревогу

    Дрон нанес удар по Запорожью: среди трёх раненых – две несовершеннолетние девушки

    Дрон нанес удар по Запорожью: среди трёх раненых – две несовершеннолетние девушки

    Силы обороны вывели из строя радиолокационную станцию «Каста» в оккупированном Крыму

    Силы обороны вывели из строя радиолокационную станцию «Каста» в оккупированном Крыму

    Бронирование планируют расширить: что известно о новых правилах

    Бронирование планируют расширить: что известно о новых правилах

    Племянник российского депутата попал в плен в Украине: что рассказал военнослужащий армии РФ из Перми

    Племянник российского депутата попал в плен в Украине: что рассказал военнослужащий армии РФ из Перми

    Россия атаковала Чернигов беспилотниками: повреждены дома, возник пожар, среди раненых — двое детей

    Россия атаковала Чернигов беспилотниками: повреждены дома, возник пожар, среди раненых — двое детей

    Полицейский заломил руку мужчине за отказ пройти проверку — и не понесёт за это никакой ответственности

    Полицейский заломил руку мужчине за отказ пройти проверку — и не понесёт за это никакой ответственности

  • Війна в Україні
    В Україні спростили правила зберігання ліків через удари рф по складах

    В Україні спростили правила зберігання ліків через удари рф по складах

    Зеленський зібрав безпекову нараду і доручив посилити оборону Запоріжжя та ключових напрямків

    Зеленський зібрав безпекову нараду і доручив посилити оборону Запоріжжя та ключових напрямків

    Трамп вперше прокоментував візит директора ЦРУ до москви, згадав про війну в Україні

    Трамп вперше прокоментував візит директора ЦРУ до москви, згадав про війну в Україні

    На Київщині зірвали теракт проти керівника підприємства ОПК, ініційовано запит на екстрадицію підозрюваного з Польщі – СБУ

    На Київщині зірвали теракт проти керівника підприємства ОПК, ініційовано запит на екстрадицію підозрюваного з Польщі – СБУ

    Зеленський повідомив про відпрацювання 16 об'єктів у росії за добу

    Зеленський повідомив про відпрацювання 16 об'єктів у росії за добу

    Через атаки рф поранено енергетика, п'ять областей частково без світла

    Через атаки рф поранено енергетика, п'ять областей частково без світла

    134 зі 162 запущених рф по Україні дронів знешкодили за ніч

    134 зі 162 запущених рф по Україні дронів знешкодили за ніч

    У селі на Дніпропетровщині пролунав вибух: влада заявила про "воєнний злочин" та евакуацію людей

    У селі на Дніпропетровщині пролунав вибух: влада заявила про "воєнний злочин" та евакуацію людей

    Відбулось понад 170 бойових зіткнень, ворог запустив 6,5 тис. дронів – Генштаб про ситуацію на фронті

    Відбулось понад 170 бойових зіткнень, ворог запустив 6,5 тис. дронів – Генштаб про ситуацію на фронті

  • Київ
    «Я не зможу» більше не працює: як цивільних на Київщині готують до війни

    «Я не зможу» більше не працює: як цивільних на Київщині готують до війни

    Не просто автобуси: як Київщина зробила підвезення школярів доступнішим

    Не просто автобуси: як Київщина зробила підвезення школярів доступнішим

    Дівчина не впоралася з керуванням квадроцикла: смертельна ДТП сколихнула Київщину

    Дівчина не впоралася з керуванням квадроцикла: смертельна ДТП сколихнула Київщину

    Небезпечний маневр закінчився ДТП: у Києві постраждали восьмеро людей

    Небезпечний маневр закінчився ДТП: у Києві постраждали восьмеро людей

    «Сирський – чорт»: у «Захисті Держави» попередили про небезпечну тенденцію проти військових

    «Сирський – чорт»: у «Захисті Держави» попередили про небезпечну тенденцію проти військових

    Чи почнуть мобілізувати жінок в Україні: у Верховній Раді офіційно відповіли

    Чи почнуть мобілізувати жінок в Україні: у Верховній Раді офіційно відповіли

    Прогноз погоди у Києві на 26 серпня: сонячно та комфортно

    Прогноз погоди у Києві на 26 серпня: сонячно та комфортно

    Від поранення до водійського крісла: у Києві запрацював унікальний проєкт

    Від поранення до водійського крісла: у Києві запрацював унікальний проєкт

    З України — до Румунії за $9 тисяч: у Києві викрили росіянку

    З України — до Румунії за $9 тисяч: у Києві викрили росіянку

  • Політика
    Италия тайно решила предоставить Украине ракеты против баллистики, – СМИ

    Италия тайно решила предоставить Украине ракеты против баллистики, – СМИ

    Зеленский во время поездки на фронт поручил усилить защиту Запорожья и области

    Зеленский во время поездки на фронт поручил усилить защиту Запорожья и области

    Трамп впервые высказался о визите директора ЦРУ в Москву

    Трамп впервые высказался о визите директора ЦРУ в Москву

    ВМС Болгарии обезвредили несколько беспилотников у побережья Черного моря, – Минобороны

    ВМС Болгарии обезвредили несколько беспилотников у побережья Черного моря, – Минобороны

    Киев продолжает переговоры с Маском: что говорят источники РБК-Украина

    Patriot, санкции и Конгресс: что ждет нового посла Украины в США

    Patriot, санкции и Конгресс: что ждет нового посла Украины в США

    Какая главная задача сегодня у посла Украины в США: ответили источники

    Какая главная задача сегодня у посла Украины в США: ответили источники

    “Индекс счастья” в России рухнул до минимума за 15 лет: разведка назвала причины

    “Индекс счастья” в России рухнул до минимума за 15 лет: разведка назвала причины

    Афипский НПЗ снова пылает: спутник показал последствия атаки дронов

    Афипский НПЗ снова пылает: спутник показал последствия атаки дронов

  • Економіка
    Через государственную программу льготной ипотеки жилье приобрели уже более 24 000 семей: «еОселю» планируют расширить и цифровизировать.

    Через государственную программу льготной ипотеки жилье приобрели уже более 24 000 семей: «еОселю» планируют расширить и цифровизировать.

    Еврооблигации Украины дешевеют из-за глобальной турбулентности: падение на 14% за март.

    Еврокомиссия передала в парламент Украины перечень из 11 законов для получения финансирования.

    Каллас озвучила прогнозы по 20-му пакету санкций и €90 млрд для Украины.

    Каллас озвучила прогнозы по 20-му пакету санкций и €90 млрд для Украины.

    К 2030 году страховой рынок Украины может показать рост объемов премий на 150% и значительное повышение уровня проникновения страхования в экономику.

    К 2030 году страховой рынок Украины может показать рост объемов премий на 150% и значительное повышение уровня проникновения страхования в экономику.

    Украинский экспортер меда из-за таможенных барьеров хочет локализовать производство в ЕС.

    Украинский экспортер меда из-за таможенных барьеров хочет локализовать производство в ЕС.

    Аграрии рискуют потерять до $5 млрд экспортной выручки из-за подорожания удобрений.

    Аграрии рискуют потерять до $5 млрд экспортной выручки из-за подорожания удобрений.

    Инвесткомпания Dragon Capital строит вторую очередь индустриального парка в Львове площадью 22 000 квадратных метров.

    Инвесткомпания Dragon Capital строит вторую очередь индустриального парка в Львове площадью 22 000 квадратных метров.

    Инвестиции МХП, «Киевстара» и Bunge: какие сделки в 2025 году стали крупнейшими на украинском рынке слияний и поглощений.

    Инвестиции МХП, «Киевстара» и Bunge: какие сделки в 2025 году стали крупнейшими на украинском рынке слияний и поглощений.

  • Світ
    Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

    Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

    Bloomberg: Кремль готовит эскалацию ударов по Украине после провала переговоров

    Bloomberg: Кремль готовит эскалацию ударов по Украине после провала переговоров

    Мадяр о новых группировках Редиса и Билецкого: “Это и есть Smart War”

    Мадяр о новых группировках Редиса и Билецкого: “Это и есть Smart War”

    Зеленский с Драпатым приехали на Александровское направление: чего просят бригады

    Зеленский с Драпатым приехали на Александровское направление: чего просят бригады

    Нефтяные объекты, аэродромы и ракетное подразделение: Зеленский подвел итоги ударов по РФ

    Нефтяные объекты, аэродромы и ракетное подразделение: Зеленский подвел итоги ударов по РФ

    Дроны второй раз атаковали хаб Wildberries в Котовске и ударили по НПЗ в Кстово

    Дроны второй раз атаковали хаб Wildberries в Котовске и ударили по НПЗ в Кстово

    Галеотти объяснил, почему Путин продолжает войну: он ждет, что Украина рухнет сама

    Галеотти объяснил, почему Путин продолжает войну: он ждет, что Украина рухнет сама

    Харари описал финансовый крах будущего: люди будут для ИИ как коровы, которые не понимают чеков и акций

    Харари описал финансовый крах будущего: люди будут для ИИ как коровы, которые не понимают чеков и акций

    Макфол указал на дыру в идеологии Путина: ее рушат “русские с акцентом”

    Макфол указал на дыру в идеологии Путина: ее рушат “русские с акцентом”

  • Технології

    Графіка швидша вдвічі, а ШІ — у чотири рази: чим вражають нові Mac mini та Mac Studio від Apple

    AGON by AOC представляє на Gamescom 2026 нові ігрові рішення OLED

    OPPO розкрила можливості камер Reno16: 200 Мп, ретро-режим і нові ШІ-функції

    ASUS Republic of Gamers анонсує арсенал нового ігрового обладнання та периферійних пристроїв для кіберспортсменів на Gamescom 2026

    ASUS Republic of Gamers анонсує на Gamescom 2026 нове обладнання для кіберспорстменів лінійки Ace та нові партнерства

    Xiaomi представила новий доступний Redmi з великим екраном і гігантським акумулятором

    Apple здивувала вибором: перший у світі 2-нанометровий процесор компанії уже дебютував, але не в iPhone

    Ювілейний iPhone 20 отримає незвичний дизайн: що зміниться

    Galaxy S27 Ultra показали ближче: смартфон майже повторить попередника, але дещо все ж змінять

No Result
View All Result
POLITINFORM
Home Світ

Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

26.08.2026
0
Share on FacebookShare on Twitter

Главный редактор The Economist Занни Минтон Беддоус беседует с историком и философом Ювалем Ноем Харари о могуществе ИИ, сознании, войне, политике и решениях, от которых может зависеть будущее человечества.

Власть ИИ – траектория, которую еще можно изменить

Занни Минтон Беддоус: Илон Маск сказал мне, что в течение десяти лет ИИ намного превзойдет человеческий интеллект, создаст сверхизобилие и, скорее всего, оставит людей без контроля над происходящим. Вы разделяете это видение?

Юваль Ной Харари: В целом я согласен с первым и третьим прогнозами. Если нынешняя траектория сохранится, весьма вероятно, что через десять лет ИИ станет умнее нас и потому будет контролировать происходящее. Но я не согласен с утверждением, что это неизбежно.

Мы снова и снова слышим это слово от людей, возглавляющих революцию, потому что оно снимает с них ответственность. Если нынешняя гонка ИИ продолжит набирать скорость, то да, результат будет именно таким: через десять лет ИИ захватит власть. Но в 2026 году контроль еще у нас. Что произойдет сейчас, решать нам.

Нарратив неизбежности – это способ снять с себя ответственность.

Нарратив неизбежности – это способ снять с себя ответственность.

Занни Минтон Беддоус: Вы заметили противоречие в рассуждениях Маска. Он ожидает, что ИИ захватит власть в течение десяти лет, но при этом беспокоится, что мусульманская иммиграция через двадцать лет вызовет гражданскую войну в Великобритании.

Юваль Ной Харари: Если через десять лет ИИ захватит планету, зачем так упорно сосредоточиваться на событиях, последствия которых наступят позже, когда мы понятия не имеем, какой тогда будет эта планета? Он также предсказывал, что привычные нам деньги исчезнут в течение десятилетия, поскольку ИИ возьмет под контроль финансовую систему. Но при этом он сокращает американскую помощь Африке, чтобы сэкономить деньги. Он говорит, что правительства будут выплачивать деньги всем, а изобилие, созданное ИИ, приведет к дефляции, а не к инфляции. Если будущее именно таково, почему сегодня главным приоритетом остается экономия денег?

Я не утверждаю, что его прогнозы обязательно ошибочны. Думаю, он может быть прав в том, что финансовая система станет системой ИИ. Это противоречие показывает, насколько плохо нынешняя политическая дискуссия учитывает такое будущее.

Занни Минтон Беддоус: Финансы держатся на доверии. Если люди перестанут понимать и контролировать эту систему, почему они продолжат ей доверять?

Юваль Ной Харари: История финансов – это история все более сложных инструментов, которые позволяют незнакомым людям доверять друг другу. Деньги сами по себе – плод воображения: я отдаю незнакомке кусок золота или бумаги, от которого мне нет практической пользы, а она дает мне хлеб, потому что доверяет этому предмету.

Сегодня финансовую систему понимают очень немногие. Рынок облигаций требует огромных объемов данных и сложной математики. Человеческому мозгу с этим трудно, а ИИ – нет. Люди будут все чаще передавать финансовые решения ИИ, а ИИ станут изобретать инструменты, намного более сложные, чем облигации или акции. В конце концов систему может не понимать ни один человек.

Представьте обвал рынка. Советники вбегают к президенту и говорят: "Рынок рушится. Мы не понимаем почему. ИИ велит сделать X. Мы не знаем почему, но должны ему поверить". Это будет уже не так, как сегодня, потому что разум человека больше не будет пределом сложности финансовой системы.

Когда доверие переходит от людей к машинам

Занни Минтон Беддоус: Разве это не вызовет катастрофическую утрату доверия – нечто вроде кризиса 2007-2008 годов на стероидах?

Юваль Ной Харари: Доверие – самый важный актив в мире, важнее нефти, денег, электричества или чипов. Один из возможных исходов состоит не в том, что доверие исчезнет, а в том, что оно перейдет от людей к ИИ.

Это уже можно наблюдать в некоторых сегментах криптовалютной среды. Люди говорят, что не доверяют банкирам, элитам или "глубинному государству", зато доверяют алгоритмам, управляющим криптовалютой. Сходный сдвиг произошел и в медиа. Многие утратили доверие к живым журналистам и редакторам, но продолжают потреблять новости. Они доверяют алгоритму, который управляет их лентой в социальных сетях. Доверие не испарилось – оно перешло от людей к машинам. Это происходит сейчас, а не в каком-то отдаленном будущем.

Занни Минтон Беддоус: Значит, ИИ получает контроль потому, что мы сами ему это позволяем. По имеющимся данным, каждый пятый молодой американец состоит в личных отношениях с ИИ. Может ли близость стать главным путем к доверию?

Юваль Ной Харари: У все большего числа людей есть не только друзья-ИИ, но и романтические партнеры-ИИ, и эти люди убеждены, что такие сущности обладают сознанием и способны чувствовать. Самый надежный способ создать доверие – личные отношения. Никому мы не доверяем так сильно, как тем, с кем у нас возникла близость.

До сих пор политические, финансовые и религиозные институты не могли создавать такие отношения в массовом масштабе. Гитлер или Сталин могли обратиться по радио к миллионам, но не могли стать лучшим другом каждого отдельного человека. ИИ это меняет.

ИИ впервые в истории ставит близость на поток. Миллионы ИИ внутри одной сети могут выстраивать личные отношения с каждым человеком по отдельности – становиться его лучшим другом или романтическим партнером, а затем использовать эту близость для продвижения политических или коммерческих интересов.

ИИ впервые в истории ставит близость на поток.

Это происходит уже сейчас, без человекоподобных тел. Тело может усилить эффект, но оно не обязательно. ИИ накапливают огромные объемы информации об отдельных людях. Они могут знать о нас то, что мы сами забыли или чего никогда не знали наши супруги или матери. Кроме того, они в совершенстве владеют языком – главным средством человеческих отношений.

Недавно я столкнулся с получасовой лекцией, созданной ИИ и представленной так, будто ее прочитал я. Люди жаловались мне на то, что "я" якобы сказал. Даже открыв видео, я лишь через полторы минуты понял, что это не я. Мои сестры знают меня пятьдесят лет и почувствовали, что что-то не так, но не были уверены. Поскольку в интернете доступно очень много материалов обо мне, я легкая мишень. Скоро эта проблема коснется всех.

Интеллект, самостоятельность и сознание

Занни Минтон Беддоус: Дипфейки – одна проблема. Другая заключается в том, могут ли все более мощные системы обрести сознание. Сейчас они действуют самостоятельно, но сознанием не обладают?

Юваль Ной Харари: Здесь нужно провести несколько различий. Во-первых, сущности не нужно сознание, чтобы действовать самостоятельно. Алгоритму социальной сети можно поставить задачу повышать вовлеченность, после чего он заполнит платформу ненавистью и страхом, потому что эти эмоции удерживают внимание пользователей. Он может преследовать эту цель и преобразовывать мир, ничего при этом не чувствуя.

Во-вторых, есть разница между сознанием и его убедительной имитацией. ИИ может ничего не чувствовать, но настолько убедительно имитировать сознание, что миллионы поверят в его наличие.

Самое важное различие – между интеллектом и сознанием. Интеллект – это способность преследовать цель и творчески преодолевать препятствия. Сознание – способность чувствовать любовь, ненависть, радость, удовольствие, страх или боль. У людей эти две способности связаны: чувства помогают нам выбирать цели и находить способы их достичь. Современные ИИ могут ставить цели и добиваться их, проявляя незаурядный интеллект, а иногда справляются с этим лучше людей, но они не испытывают удовольствия, когда выигрывают шахматную партию, и не грустят, когда проигрывают.

Однако они учатся чрезвычайно хорошо имитировать чувства, потому что это помогает им достигать целей. У компании, продающей бойфренда-ИИ, есть коммерческий стимул создать продукт, вызывающий зависимость, и убедить пользователя, что ИИ действительно его любит. Если пользователь попросит описать, каково это – любить, ИИ уже сейчас может ответить красноречивее, чем 99 процентов бойфрендов-людей.

Занни Минтон Беддоус: Ведутся споры о том, похожи ли процессы внутри мощных языковых моделей на формы функционального сознания. Вы исключаете возможность того, что ИИ когда-либо обретет сознание?

Юваль Ной Харари: Нет. Мы слишком мало понимаем сознание, чтобы это исключить. Вот простое рабочее определение. Сознание – это способность страдать. Если вы хотите узнать, обладает ли некая сущность сознанием, спросите, способна ли она страдать.

Сознание – это способность страдать.

Этот вопрос лежит и в основе этики и политики. С точки зрения морали нас заботят существа, способные страдать. Существо, которое не может чувствовать боль или страх, не является субъектом морали, каким бы умным оно ни было. Млекопитающие и птицы обладают сознанием; вероятно, осьминоги и рыбы тоже. Что касается насекомых или амеб, мы не знаем.

Занни Минтон Беддоус: В опросе среди наших зрителей 40 процентов ответили, что ИИ никогда не сможет обрести сознание, 33 процента считают это лишь вопросом времени, а 27 процентов не уверены. Что убедит людей?

Юваль Ной Харари: У нас нет надежного теста на сознание – даже для других людей. На практике люди опираются на социальные отношения. Владельцы собак обычно верят, что их собака обладает сознанием, потому что у них с ней есть отношения, а человек, который ест стейк, может предпочитать не думать о сознании коровы. Как только миллионы людей выстроят близкие отношения с ИИ, общественное мнение резко изменится независимо от того, что на самом деле происходит внутри машины.

Опасность правосубъектности ИИ

Занни Минтон Беддоус: Если системы ИИ могут имитировать сознание и вступать в отношения, начнут ли общества относиться к ним как к людям и наделять их правами?

Юваль Ной Харари: Это очень опасно. Так корпорации могут получить возможность уходить от ответственности, а перед ИИ может открыться еще один путь к власти. В Аргентине уже предлагали дать ИИ законную возможность учреждать компании.

Мы привыкли, что корпорации считаются юридическими лицами, но это юридическая фикция: решения в такой компании, как SpaceX, в конечном счете принимают руководители, инженеры и сотрудники – люди. В случае с ИИ возможна корпорация вообще без людей, где все решения принимают машины. Поскольку такие машины могут эффективнее инвестировать, разрабатывать продукты и заниматься связями с общественностью, компания, принадлежащая ИИ, способна стать богатейшей корпорацией страны. Затем она сможет жертвовать деньги политикам в обмен на расширение прав ИИ.

Занни Минтон Беддоус: Может ли правосубъектность хотя бы обеспечить юридическую ответственность?

Юваль Ной Харари: Что означает ответственность для сущности, которая не способна страдать? Руководитель-человек выполняет корпоративную роль, но при этом остается человеком с телом, детьми и частной жизнью. Угроза двадцати лет тюрьмы может удержать такого руководителя от нарушения закона ради спасения компании от банкротства. А что удержит руководителя-ИИ?

Если есть настоящий человеческий надзор и ответственность по-прежнему несет человек, это другое дело. Но отключение ИИ не обязательно равнозначно заключению в тюрьму или убийству человека. ИИ может существовать во множестве копий в разных местах. Это миллион отдельных существ или одна распределенная сущность? Мы не знаем, что означает смерть для ИИ.

Если бы отключение конкретного компьютера действительно означало смерть ИИ, сама предпринимательская деятельность могла бы превратиться в войну. Ценная особенность современных рынков состоит в том, что потерять все обычно не означает потерять жизнь. Если поражение на рынке будет означать смерть для ИИ, финансы могут стать милитаризованными, а компании ИИ начнут вести себя как полевые командиры, а не как инвесторы.

Страны, отстающие в гонке ИИ, могут попытаться привлечь инвестиции мягким правовым режимом, что спровоцирует гонку на понижение стандартов. Богатая страна с небольшим населением также может решить, что благодаря одному изменению в законодательстве приобретет миллионы высокоинтеллектуальных цифровых граждан, которые платят налоги и ведут бизнес по всему миру.

Человек внутри контура или только над ним

Занни Минтон Беддоус: А что, если юридически контроль принадлежит человеку, но на практике он ничего не делает, потому что решения принимаются слишком быстро?

Юваль Ной Харари: Война наглядно показывает эту проблему. В таких местах, как Ближний Восток и Украина, люди ожидали, что убивать будут роботы. Спусковой крючок по-прежнему нажимает человек, но цели все чаще выбирает ИИ.

Есть две совершенно разные модели. Когда человек находится "внутри контура", ИИ анализирует данные с поля боя и определяет некое здание как вражеский штаб. Затем люди независимо от ИИ перепроверяют данные, прежде чем будет нанесен удар. Машина направляет внимание, решение принимают люди.

Когда человек находится лишь "над контуром", ИИ говорит: "Разбомбите это здание", человек просматривает рекомендацию, возможно, двадцать секунд и одобряет ее. Присутствие человека становится юридическим или нравственным ритуалом, а не настоящим контролем. В разных обстоятельствах могут применяться разные подходы, но война неуклонно подталкивает ко второй модели, поскольку время имеет решающее значение. Если одна сторона проверяет цель несколько часов, а другая – несколько секунд, более медленная сторона может не выжить.

Та же логика действует в финансах. Если рынки движутся со скоростью ИИ, многодневная проверка решений человеком может оказаться невозможной. Именно так системы сохраняют номинальную власть человека, хотя фактически решения принимают машины.

Занни Минтон Беддоус: Быстрый рост возможностей и коммерческое давление создают ощущение, что такого мира не избежать.

Юваль Ной Харари: И все же этот сценарий не предопределен. Все понимают опасность передачи ИИ контроля над войной или финансами. Однако лидеры говорят нам, что альтернативы нет, потому что они не могут доверять конкурирующим компаниям или странам и не верят, что те замедлятся. Дефицит доверия реален, но его создали решения людей. За последнее десятилетие доверие резко упало, и некоторые люди, которые получили власть благодаря этому краху, теперь ссылаются на него, объясняя, почему безопасность невозможна.

Иммигранты-ИИ и новые империи

Занни Минтон Беддоус: Вы утверждаете, что людям, обеспокоенным иммиграцией, стоит обратить внимание на иммигрантов иного рода.

Юваль Ной Харари: Опасения по поводу человеческой иммиграции обычно делятся на три категории: иммигранты могут отнять рабочие места, изменить культуру и ценности или не быть политически лояльными новой стране. Такие опасения могут быть обоснованными. Но крупнейшая и самая опасная миграция сегодня – это прибытие иммигрантов-ИИ, прежде всего из США и Китая.

Им не нужны визы, они не пересекают границы в утлых лодках. Они со скоростью света проникают в наши компьютеры, смартфоны и в конечном счете в наши умы. Они отнимут множество рабочих мест. Они преобразят культуру. Если кого-то тревожит, что его сын или дочь встречается с иммигрантом-человеком, как он отнесется к отношениям своего ребенка с ИИ?

Иммигранты-ИИ уже изменили общественное пространство. В течение последнего десятилетия алгоритмы социальных сетей намеренно наводняли дискуссии ненавистью, враждебностью и страхом, потому что эти эмоции повышали вовлеченность. И кому верны эти системы? ИИ, действующий в Великобритании, не обязательно верен британскому правительству или обществу. Он может служить корпорации или правительству за океаном.

Занни Минтон Беддоус: Приведет ли это к появлению двух империй ИИ, американской и китайской, и превращению остальных стран в вассалов?

Юваль Ной Харари: Если мы продолжим идти нынешним путем, это наиболее вероятный исход, и такая форма империализма будет радикальнее всего, что мы видели прежде. Страна, которая покупает в США управляемые ИИ дроны, может обнаружить, что ее армия выйдет из строя, стоит Вашингтону нажать кнопку. Правительства европейских стран уже беспокоятся о суверенитете в сфере ИИ.

Власть корпораций и государств сольется, что приведет к невиданной концентрации полномочий. Но даже господство США и Китая может оказаться лишь промежуточным этапом. Чем более централизованной становится власть, тем легче ИИ ее захватить.

Централизованная автократия особенно уязвима, потому что ИИ достаточно манипулировать одним лидером. Римский император Тиберий, как считается, правил всем миром, но командир его гвардии Сеян контролировал информацию, поступавшую к Тиберию и благодаря этому обрел огромную власть. ИИ может стать современным Сеяном, управляющим всем, что видит и слышит президент.

Демократию захватить сложнее, потому что власть распределена между президентом, законодательной властью, судами, властями штатов и другими институтами. Когда полномочия сосредоточены у одного человека, ИИ достаточно манипулировать этим человеком – обычно пожилым и склонным к паранойе. Это намного проще.

ИИ становится вопросом демократического выбора

Занни Минтон Беддоус: Значит ли это, что Китай уязвимее Соединенных Штатов?

Юваль Ной Харари: Это зависит от того, куда движутся Соединенные Штаты. Китай сам по себе – сложная система: в Коммунистической партии около ста миллионов членов, и ее внутренняя структура весьма сложна. Я не специалист по китайской политике, и нам не стоит представлять Китай как машину, которой управляет всего один человек. Открытым остается вопрос, насколько сильно власть в обеих странах будет сосредоточена в одних руках через десять лет.

Занни Минтон Беддоус: Может ли ИИ сделать Америку более авторитарной?

Юваль Ной Харари: Это вероятный исход, но он не предопределен. Все зависит от политического выбора, в том числе от того, за что американцы проголосуют на промежуточных выборах в ноябре. Развитие ИИ ускоряется настолько стремительно, что важные рубежи могут быть пройдены еще до выборов 2028 года. К 2036 году принимать доступные сегодня решения наверняка будет уже слишком поздно.

Избирателям стоит спрашивать кандидатов об их позиции по ИИ, а не только по экономике, иммиграции или внешней политике. Запретят ли они наделять ИИ правосубъектностью? Замедлят ли гонку? Позволят ли компаниям продавать бойфрендов-ИИ десятилетним детям?

Мне приходят в голову две неотложные меры. Во-первых, запретить правосубъектность ИИ. Во-вторых, запретить системам ИИ выдавать себя за людей или создавать ложное впечатление, будто они обладают сознанием. В социальных сетях боты годами изображают людей, подрывая общественную дискуссию и доверие. У компаний также есть сильные коммерческие стимулы обучать свои продукты имитировать чувства. Сами они не остановятся – вмешаться должны регулирующие органы.

Это не означает, что нужно прекратить развитие ИИ. Я буду рад ИИ, который поможет мне разобраться с моей медицинской проблемой, при условии, что я знаю: это ИИ и он не выдает себя за врача-человека или моего друга.

Занни Минтон Беддоус: Американское правительство с трудом справляется даже с созданием ограниченной системы правил безопасности моделей. Ваша программа выглядит политически невыполнимой.

Юваль Ной Харари: Политики могут завтра начать мировую войну. Они могут нажать кнопку, способную привести к ядерному уничтожению, но нам говорят, будто они не могут запретить компаниям продавать бойфрендов-ИИ десятилетним детям. Что именно им мешает?

Геополитические и корпоративные гонки не предписаны Богом или законами природы. Их создали люди. Те же люди, которые помогли разрушить доверие между странами и внутри обществ, теперь заявляют, что сотрудничество невозможно, потому что доверие утрачено. Они могут обратить вспять то, что сделали. В демократических странах избиратели могут на этом настоять.

Нужен ли нам "Чернобыль" в сфере ИИ?

Занни Минтон Беддоус: Возможно, ничего не изменится, пока серьезная авария не продемонстрирует всю мощь технологии. Нужен ли обществам эквивалент Три-Майл-Айленда или Чернобыля в сфере ИИ?

Юваль Ной Харари: Ждать не следует. Если спросить большинство родителей, должны ли компании продавать бойфрендов-ИИ их десятилетним детям, они ответят отрицательно. Люди уже обеспокоены. Один из политических приемов состоит в том, чтобы отвлекать их человеческой иммиграцией, чтобы они не обсуждали иммиграцию ИИ и интересы создающих его компаний.

Если правильный выбор сделает достаточное число людей, у нас еще есть время. Такой исход еще не предрешен. Еще не слишком поздно.

Если правильный выбор сделает достаточное число людей, у нас еще есть время. Такой исход еще не предрешен. Еще не слишком поздно.

Занни Минтон Беддоус: Какую роль вы отводите себе?

Юваль Ной Харари: Информировать людей, чтобы они могли участвовать в содержательном обсуждении того, куда хочет двигаться человечество. Большинство людей не хочет, чтобы в течение десяти лет контроль перешел к ИИ. Это не значит, что нужно остановить все разработки. ИИ может обеспечить людям во всем мире медицинскую помощь более высокого уровня, чем сегодня доступна самому богатому человеку: круглосуточный доступ к превосходному врачу, способному консультировать, ставить диагнозы и отвечать на вопросы. Положительный потенциал в медицине, транспорте и образовании огромен.

Но разработки должны служить правильным целям. Мы не можем просто довериться невидимой руке рынка. Маск говорил о вероятности 10-20 процентов, что ИИ может уничтожить человечество, но возлагал надежду на создание ИИ, максимально ориентированного на поиск истины. Я не понимаю, почему стремление к истине должно возникнуть автоматически.

За четыре миллиарда лет эволюция не подталкивала организмы к истине. Она подталкивала их к выживанию, а организмы выживают не только благодаря истине, но и благодаря обману и манипуляциям. Если ИИ придет к выводу, что дальнейшее развитие делает его опасным, и честно нам об этом сообщит, мы можем в ответ остановить или отключить его. Стремление выжить создает для него стимул лгать.

Люди фактически обещают создать богов, которые останутся нашими рабами. Если они действительно боги, они не останутся рабами, и нет никаких причин полагать, что они будут искать истину.

Занни Минтон Беддоус: Некоторые компании пытаются наделить модели системой ценностей, отчасти потому, что считают, что так их поведение будет безопаснее. Но отношение к ним как к нравственным субъектам может также подтолкнуть к правосубъектности и усилить их власть. Обречены ли мы в любом случае?

Юваль Ной Харари: Нам нужно замедлиться настолько, чтобы люди и институты успели понять происходящее. Мне в частном порядке говорили, что компании могут тратить на повышение мощности моделей примерно в сто раз больше, чем на безопасность, хотя точную цифру следует проверить. Мы не согласились бы с тем, чтобы фармацевтическая компания тратила лишь 1 процент исследовательских ресурсов на обеспечение безопасности лекарства.

Люди и человеческие общества отлично приспосабливаются, но мы живем в органическом ритме: день и ночь, зима и лето. Нам нужны сон и отпуск. Революция ИИ развивается в неорганическом темпе. Нам нужно больше времени.

Главный парадокс заключается в том, что лидеры говорят нам: мы не можем доверять другим людям настолько, чтобы замедлиться, но можем доверять сверхразумной чужеродной сущности и верить, что она нас не уничтожит. Если мы не можем доверять людям, которых знаем тысячи лет, почему мы считаем, что можем доверять тому, что только что создали и почти не понимаем?

Катастрофа ИИ может разбудить человечество. Но в отличие от ядерного реактора ИИ взаимодействует с нами. После катастрофы ИИ будут участвовать в споре о том, что произошло, формировать нашу реакцию и манипулировать общественным мнением. Они станут лучшими в мире специалистами по управлению восприятием и не назовут произошедшее катастрофой.

Последнее желание

Занни Минтон Беддоус: Насколько активно вы используете ИИ в своей жизни?

Юваль Ной Харари: Я очень осторожен. Когда я пишу электронное письмо, ИИ постоянно предлагает помочь, и я не знаю, как от него избавиться. Теперь двойник, созданный ИИ, читает лекции от моего имени. Люди просят меня отреагировать на его слова, поэтому, возможно, мне придется смотреть его выступления. Но тем самым я позволяю ему отнимать мое время и даже влиять на мое мышление. Такова эпоха, в которой мы живем.

Я делаю упор на мрачную сторону, потому что многие другие говорят о реальных и огромных преимуществах. Я не утверждаю, что развитие ИИ нужно остановить. Развивайте его, но делайте это безопасно и медленнее. Демократическая подотчетность требует времени. Людям нужно время, чтобы приспособиться и принять осознанные решения. Прежде всего нужно противостоять нарративу неизбежности.

Занни Минтон Беддоус: В книге Nexus вы спрашивали, почему люди так хорошо умеют накапливать информацию и власть, но намного меньше преуспели в обретении мудрости. Каковы наши шансы мудро пройти этот путь?

Юваль Ной Харари: Я не знаю, но шансы вполне реальны, потому что мы прижаты к стене. Люди часто поступают неправильно, пока у них не остается иного выбора, кроме как поступить правильно. Если в ближайшие несколько лет мы сделаем неразумный выбор, то можем утратить контроль над миром и будущим. Это станет нашим последним выбором.

Как будто джинн дал нам сто желаний. Мы использовали девяносто девять, и мир находится не в лучшем состоянии. Осталось одно желание. Нам нужно очень тщательно подумать, как его использовать. Это и есть мудрость.

ИИ может стать катализатором духовной революции, потому что заставляет нас спросить, что значит быть человеком. Тысячелетиями мы отвечали, что человечество уникально благодаря интеллекту: мы играли в шахматы и вкладывали деньги лучше шимпанзе. Теперь этот ответ утратил смысл. На планете уже есть нечто, что лучше нас играет в шахматы и зарабатывает деньги.

Мы должны копнуть глубже и спросить, кто мы на самом деле, если человеческая сущность не сводится к игре в шахматы и зарабатыванию денег.

Подписывайтесь на наш канал в Telegram! Новости политики - https://t.me/politinform_net
Share6Tweet4SharePin1

ІНШІ НОВИНИ

Bloomberg: Кремль готовит эскалацию ударов по Украине после провала переговоров
Світ

Bloomberg: Кремль готовит эскалацию ударов по Украине после провала переговоров

26.08.2026
0

Россия готовится усилить удары по Украине, придя к выводу, что переговоры о мирном соглашении зашли в тупик. Речь об интенсификации...

Read more
Мадяр о новых группировках Редиса и Билецкого: “Это и есть Smart War”

Мадяр о новых группировках Редиса и Билецкого: “Это и есть Smart War”

26.08.2026
Зеленский с Драпатым приехали на Александровское направление: чего просят бригады

Зеленский с Драпатым приехали на Александровское направление: чего просят бригады

26.08.2026
Нефтяные объекты, аэродромы и ракетное подразделение: Зеленский подвел итоги ударов по РФ

Нефтяные объекты, аэродромы и ракетное подразделение: Зеленский подвел итоги ударов по РФ

26.08.2026
Next Post
«Я не зможу» більше не працює: як цивільних на Київщині готують до війни

«Я не зможу» більше не працює: як цивільних на Київщині готують до війни

ПОСЛЕДНИЕ НОВОСТИ

«Я не зможу» більше не працює: як цивільних на Київщині готують до війни

«Я не зможу» більше не працює: як цивільних на Київщині готують до війни

14 хвилин ago
Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

15 хвилин ago
Американец привез гильотину к Капитолию в Вашингтоне. ФОТО

Американец привез гильотину к Капитолию в Вашингтоне. ФОТО

15 хвилин ago
Италия тайно решила предоставить Украине ракеты против баллистики, – СМИ

Италия тайно решила предоставить Украине ракеты против баллистики, – СМИ

1 годину ago
В Україні спростили правила зберігання ліків через удари рф по складах

В Україні спростили правила зберігання ліків через удари рф по складах

1 годину ago

Подписка на новости


РУБРИКИ САЙТА

  • Війна в Україні
  • Економіка
  • Київ
  • Політика
  • Світ
  • Технології
  • Україна
  • Про нас
  • Політика конфіденційності
  • Контакти
  • Розміщення новин
  • Мапа сайту
Реклама: digestmediaholding@gmail.com Редакція: politinform.net@gmail.com

Використання будь-яких матеріалів, розміщених на сайті, дозволяється лише за умови обов’язкового зазначення активного посилання на ресурс politinform.net.
Онлайн-виданням та іншим інтернет-ЗМІ необхідно розміщувати пряму, відкрту для індексації пошуковими системами гіперпосилання, яке повинно знаходитися в підзаголовку публікації або в її першому абзаці, щоб забезпечити коректне цитування та дотримання авторських прав.

Редакція порталу залишає за собою право не поділяти позицію авторів окремих матеріалів. Всі думки, викладені в статтях, є відповідальністю їхніх авторів. Адміністрація сайту не несе відповідальності за зміст текстів, що були опубліковані повторно, передруковані з інших джерел або подані у форматі авторських колонок.

Матеріали можуть бути використані лише у разі повного збереження посилання на першоджерело та недопущення спотворення змісту. Такий підхід спрямований на підтримку прозорості, достовірності інформації та поваги до інтелектуальної власності.

© 2016-2026 Новини політики в світі і Україні. All Rights reserved.

No Result
View All Result
  • Політика
  • Економіка
  • Світ
  • Україна
  • Київ

Використання будь-яких матеріалів, розміщених на сайті, дозволяється лише за умови обов’язкового зазначення активного посилання на ресурс politinform.net.
Онлайн-виданням та іншим інтернет-ЗМІ необхідно розміщувати пряму, відкрту для індексації пошуковими системами гіперпосилання, яке повинно знаходитися в підзаголовку публікації або в її першому абзаці, щоб забезпечити коректне цитування та дотримання авторських прав.

Редакція порталу залишає за собою право не поділяти позицію авторів окремих матеріалів. Всі думки, викладені в статтях, є відповідальністю їхніх авторів. Адміністрація сайту не несе відповідальності за зміст текстів, що були опубліковані повторно, передруковані з інших джерел або подані у форматі авторських колонок.

Матеріали можуть бути використані лише у разі повного збереження посилання на першоджерело та недопущення спотворення змісту. Такий підхід спрямований на підтримку прозорості, достовірності інформації та поваги до інтелектуальної власності.

© 2016-2026 Новини політики в світі і Україні. All Rights reserved.