Татьяна Черниговская назвала ИИ «заразой» и заявила, что мы «переехали на другую планету»

Татьяна Черниговская, говоря об искусственном интеллекте и «ситуации, в которую мы всем человечеством попали», заявила, что мы «практически переехали на другую планету, но скрываться от этого смешно, потому что мы уже живем в таком мире и будем жить в нем дальше». Об этом она заявила на XIII Петербургском международном форуме здоровья, который открылся 15 октября. «Доктор Питер» послушал, что думает одна из самых известных ученых России о будущем человечества.

Живая нейросеть

«В нашей черепной коробке заперт сложнейший мозг. Нейронов в нем примерно 100 миллиардов. Речь об астрономических величинах… У каждого нейрона может быть по несколько десятков тысяч соединений с другими местами в мозгу. Если посчитать, то мы получаем кошмарное число… Более того, это все время меняется… Нейронная сеть „пишется“ все время. Человеческий мозг состоит из тысяч и тысяч синапсов и дендритов. Это огромная нейронная сеть. Если их все в ниточку вытянуть, то получится 2,8 млн км — можно 68 раз облететь Землю или 7 раз слетать на Луну. Вот что мы все имеем у себя между ушами — и глупые, и гениальные».

«Я продолжаю пугать»

«Когда первые разговоры про искусственный интеллект стали вестись, была речь о том, что он будет выполнять тяжелую работу вместо нас. Лично я хочу, чтобы искусственный интеллект чинил водопровод. У меня такое пожелание. Но он этого не делает. Он лезет на наше поле — и уже встал туда. Вопрос: чего мы боимся? Меня всегда ругают за то, что я всех пугаю. Но я продолжаю пугать! Почему мы так решили, что он идет по нашей дороге? Почему он хочет быть как люди?»

Куда мы попали?

«Недавно в интервью услышала: мы „скормили“ искусственному интеллекту все, что написало человечество за тысячи лет существования как цивилизации. На вопрос, что же теперь делать, был ответ: „Будем писать новое“. Приехали! Теперь мы, значит, будем писать новые тексты, чтобы „скормить“ их этой заразе, что ли? Простите меня за „нежное“ слово. Нет, ну мы куда попали? Мы теперь будем их еще обслуживать, чтобы им было на чем учиться? Это что такое?»

«Когда безответственные люди говорят, что повторяют человеческий мозг, когда делают искусственный интеллект, они жулики или не понимают, что говорят. Повторить его нельзя. Мы делаем что-то совсем другое. И мы должны понимать риски этого».

«На конференции с участием Грефа (глава компании, которая активно разрабатывает ИИ в России. — Прим. ред.) я не выдержала и спросила: „А что мы будем делать, если эти искусственные системы перейдут на какой-то другой тип логики, которую люди не знают вообще? Даже человеческих логик много. Но если это будет такая логика, что мы просто не будем понимать, что там происходит?“ Греф ответил: „Вы опоздали, это уже случилось!“ Я чуть сознания не лишилась. Если даже люди, которые занимаются этим на мировом уровне, говорят, что они не понимают, как учатся эти программы, то нам вообще надо подумать. Мы куда попали?»

Открытия не делаются логарифмической линейкой

«Когда мы играем в игры с искусственным интеллектом, речь идет об алгоритмическом мышлении. Мы можем в другие системы перекладывать только то, что может быть объяснено, что может быть написано алгоритмическим образом. Но наш мозг умеет делать довольно много вещей, которые не измеришь, которые не поддаются никакого рода счету в широком смысле».

«Физик Нильс Бор сказал Эйнштейну: „Нет, ты не думаешь, ты просто мыслишь логично!“ Представляете, он упрекнул великого физика в том, что тот слишком прост в своем мышлении: „Ты просто логические операции делаешь“. А подумай с другого бока? Это то, что делает искусство. Открытия не делаются логарифмической линейкой… Открытия настоящие, они неизвестно откуда берутся… Взять гениев — они же все как сговорились…Академик Оганесян говорит, что все во сне делает. Шостакович тоже во сне… Что это такое? Иммануил Кант говорил, что у человека обширнее всего сфера смутных представлений. Мы не знаем, как мы это делаем».

«Что нас отличает от всех других биологических видов на планете, так это то, что наш мозг творит информацию. Когда говорят, что Создатель нас сделал по образу и подобию своему, то это в этом смысле. Наш мозг порождает другие миры. На этом стоит наша цивилизация. Это — все религии. Это — вся философия. Этого в природе нет. Это то, что создали мы. И это та дорога, на которой мы делаем великие открытия».

Что должен делать учитель?

«Перед образованием тоже встали огромные вопросы. Кто теперь учитель? Это кто? Ребенок из утробы материнской уже вылезает с гаджетами в руках, ушах, глазах… К моменту, когда он придет в школу, ему не нужен учитель, который скажет: „Это называется очки“. У ребенка информация эта в кармане лежит. Так кто должен быть этот учитель? Что он должен делать? Что мы должны делать в университетах? Как мы должны учить врачей? Врач — это кто? У кого бесконечная память? Нет. Но это и тот, который дилетант, который будет лезть за любым вопросом».

«Перед всем миром стоит вопрос, как же теперь выглядит образование — как общее, так и профессиональное. Одна из тревожных линий — оно очень разделится. Будет очень дорогое, с огромной буквы „О“ элитарное Образование, где будут преподавать люди, будет индивидуальный подход, будут читать реальные книжки, которые пахнут пылью… Это потенциально социальный взрыв. Это подготовка элит совсем другого типа, и ничего хорошего это нам не сулит. А как учить вообще всех? Ответа на этот вопрос нет».

Кто в доме хозяин?

«Мы никуда отсюда с этой планеты не улетаем. Нам придется разделить сферы жизни между этим „другим“ интеллектом и нами. Мы должны побороться за свое место. Чего все боятся? Утраты контроля над ситуацией! Главное слово сейчас — это „пока“. Говорят: „пока ИИ не понимает“, „пока он не выходит в физический мир“, „пока он не регулирует наше поведение“. Но понятно, как он может это делать. Он может регулировать даже целые социумы потенциально. И это правда. Что мы будем делать?»

«Всегда говорили: „Я мыслю, значит, существую“. У меня вопрос: а искусственный интеллект, он мыслит? Тогда он существует, что ли? Потом стали говорить: „Чувствую, значит, существую“. ИИ обвешан датчиками, он любую сенсорную модальность съест.
У меня одна надежда — на „Сомневаюсь, значит, существую“. У ИИ есть ответ: „Сомневаюсь, я подумаю?..“"

«Я уверена в том, что нам надо прекратить бегать и в какое-то время сесть — возможно, смотреть на воду или на огонь — и подумать, мы тут зачем? Какова наша роль? Ведь не в том, чтобы успеть съесть до 80 лет как можно больше гамбургеров? Значит, у нас какая-то другая роль? И в этом смысле банальность скажу, но я в ней уверена. Наша задача — сохранить человеческое в человеке. Не бегать на соревнованиях с искусственным интеллектом. Мы проиграли их. На его поле мы проиграли уже. Это не завтра, это позавчера.

«Это безумная игра. Это проигранная игра. Значит, у нас есть другое поле. И мы должны себя защитить. Мы хотим еще на этой планете жить? Если хотим, пора подумать! Извините за пафос».