ИИ может лишить цивилизацию профессионалов и «убить» её

Использование искусственного интеллекта в ряде сфер имеет как плюсы, так и минусы

Собеседники «Московской газеты» отмечают эффективность искусственного интеллекта (ИИ) наряду с серьёзными проблемами. По мнению главного редактора «Московской газеты» Валерия Ивановского, искусственный интеллект – всего лишь инструмент, неспособный мыслить вместо человека, поэтому качество работы ИИ напрямую зависит от интеллектуального уровня его оператора.

Искусственный интеллект в медицине

На данный момент ИИ уже способен заменить врачей первого звена, рассказал «Московской газете» профессор, доктор медицинских наук, врач-сомнолог Роман Бузунов:

«Однако, если полностью положиться на искусственный интеллект, неизбежно оболванивание врачей: если не мыслить самому, а постоянно полагаться на поддержку ИИ, человек перестаёт думать, анализировать и принимает всё за чистую монету. Чтобы довести любого доктора до экспертного уровня нужно 6 лет института, 2 года ординатуры и 6 лет практики. Как сделать нормального доктора, если он не пройдёт в своей работе через первичное звено? Профессия врача может просто начать вымирать. И, как говорится, если «электричество отключится», мы вернёмся в каменный век, и никто ничего не будет уметь».

При этом один суперкомпьютер за час может расшифровать все рентгенограммы в мире с большей точностью, чем рентгенологи, отметил Роман Бузунов.

«Точно так же ИИ несравненно быстрее проводит интерпретацию анализов пациентов. Или другой пример: мне пишет пациент, которая летит из США в Германию, а потом в Турцию и в Москву. У неё очень сложный перелёт через разные часовые пояса, при этом она страдает бессонницей и принимает препараты. Чтобы самому расписать схему, когда и что ей принимать, в какой стране, когда спать, когда не спать, включать или не включать свет во время сна, мне понадобилось бы 4 часа. А я просто написал в Chat GPT и за 3 минуты получил адекватный текст, который, правда, поправил в одном месте. Но я откорректировал этот текст как эксперт. А врач в поликлинике, я думаю, мог бы просто не написать такую схему. Но для обучения ИИ нужны хорошие специалисты и хорошие базы данных, и этого уровня не добиться без взаимодействия с мировым научным сообществом. С другой стороны, в такой сфере, как психология и психиатрия, ИИ на данный момент не может превзойти врача-профессионала, поскольку здесь для пациента важно доверие к конкретному человеку, и подавляющему большинству пациентов здесь нужен человеческий контакт», — отметил врач-сомнолог.

По словам специалиста, в США из-за врачебной ошибки умирает около 100 тыс. человек в год, и если «у каждого хирурга должно быть своё кладбище», то это справедливо и в отношении ИИ.

«Хотя, на мой взгляд, на горизонте нескольких лет ИИ будет ошибаться реже, чем врач, — считает Роман Бузунов. — Но, в любом случае, нужно законодательно решить, кто будет нести ответственность в случае врачебной ошибки, допущенной ИИ – разработчик или тот, кто применил его в своей практике. Необходима система страхования ответственности ИИ».

Самое страшное в применении искусственного интеллекта в медицине – ошибка, неточный расчёт, рассказала «Московской газете» врач-офтальмолог Евгения Синеок:

«В офтальмологии ИИ сейчас применяется, например, в оценке фото глазного дна пациента на предмет изменений, происходящих при диабете или возрастной дегенерации сетчатки. С одной стороны, ИИ работает быстрее и ошибается реже, чем человек. С другой стороны, бывают скрытые симптомы, сложные пациенты, и в таких ситуациях опытного врача заменить сложно. Если ИИ не будут предоставлены все необходимые данные: вес пациента, наличие гипертонической болезни и т.д., на основании одних только снимков глазного дна он может дать неверное заключение. ИИ нужно воспринимать не как панацею, а как инструмент по диагностике, который обязательно должен контролироваться врачом. Также нужно, чтобы конкретная программа ИИ была сертифицирована государством, чтобы этим занимался единый центр по разработке этих программ. На мой взгляд, за ошибку, допущенную искусственным интеллектом, должно нести ответственность медицинское учреждение».

Врача-терапевт Вадим Лиходкин считает, что медицина – та сфера, в которой искусственный интеллект на данный момент не может заменить человека. 

«ИИ — просто машина, которая может обработать запрос с учётом сходной синдромо-комплексной симптоматики. ИИ может ошибиться, а ответственность на данный момент будет нести человек, который загружал в него данные. Но, к счастью, медицинский ИИ обладает определённой этикой и не даёт советы, методы, как лечиться», — сказал Вадим Лиходкин «Московской газете».

По мнению сопредседателя Всероссийского союза пациентов Яна Власова, пациенту особенно важно, чтобы его услышали, поскольку он обращается за помощью в разном состоянии – с тревогой, болью, растерянностью.

«При внедрении цифровых сервисов крайне важно сохранить и живое сопровождение, возможность быстро выйти на контакт с врачом или оператором. Пока такой механизм работает нестабильно, и это формирует у пациентов недоверие к цифровым помощникам», — подчеркнул Ян Власов. 

ИИ в строительстве 

Искусственный интеллект бурно развивается, в том числе в строительной отрасли, но это сопровождается рядом проблем, рассказала «Московской газете» эксперт по недвижимости Анастасия Озолина:

«ИИ – это просто большая база данных, и его алгоритмы часто дают ошибки, которые могут привести к финансовым потерям и повлиять на безопасность людей. Поэтому все данные необходимо проверять человеку. Слабое место ИИ – кибербезопасность. Слив технических данных и проектной документации, хакерские атаки могут стоит компаниям огромных денег и репутации. Чтобы сделать цифровую инфраструктуру безопасной требуются огромные инвестиции, которые могут позволить себе далеко не все компании. На данный момент ИИ слабо адаптирован к неожиданным изменениям в строительстве: это могут быть ошибки инженеров, смена погоды, дефекты материалов. Чтобы быстро принимать решения и корректировать ситуацию нужны человеческие опыт и интуиция. Быстрое развитие ИИ может привести к сокращению рабочих мест, социальной напряжённости и потере важных в строительстве практических навыков. На мой взгляд, стоит использовать возможности искусственного интеллекта по обработке больших данных, но оставить финальные решения человеку, готовому к нестандартным ситуациям».

По мнению президента Ассоциации агентств элитной недвижимости AREA Евгения Скоморовского, ключевые решения в строительстве должны оставаться за человеком.

«Данные, на которых обучается ИИ, часто являются устаревшими или могут содержать в себе неточности. Онлайн-технологии уязвимы для хакерских атак, любое мошенническое вмешательство в их работу может парализовать строительную деятельность в больших масштабах. Строители могут разучиться работать и принимать правильные решения, если всё время будут полагаться на подсказки искусственного интеллекта», — отметил Евгений Скоморовский.

Девелопер, генеральный директор совместной российско-китайской компании ARCOM Гасан Архулаев считает, что на сегодняшний день внедрении ИИ повышает эффективность на всех этапах строительства, ускоряет предпроектную аналитику, оптимизирует сроки работ и снижает затраты на документацию; благодаря анализу данных расходы на строительство сокращаются до 15%, а производительность увеличивается на 20-30%. Реальный экономический эффект от внедрения ИИ в строительство можно оценить в 1 трлн рублей.

«При всём этом в отрасли имеется катастрофический недостаток квалифицированных специалистов по обучению ИИ, а обучающих данных в достаточном количестве попросту нет, и при отсутствии этих данных затруднена интеграция с существующими системами», — заметил Гасан Архулаев.

ИИ в журналистике и PR

Искусственный интеллект для журналиста или пиарщика – как специи и соль для повара, те ингредиенты, которые нужно использовать в разумном количестве, рассказал «Московской газете» руководитель агентства Content Review Сергей Половников:

«С одной стороны, ИИ делает труд профессионалов проще, а значит и объёмы работы, которые профессионал выдаёт, становятся больше. Искать и верифицировать информацию стало на порядок проще с появлением нейросетей. В то же время, когда журналист вместо того, чтобы самостоятельно писать материал, отдаёт это на откуп генеративному сервису типа Chat GPT, в первую очередь, он не уважает свою аудиторию, потому что люди ждут информацию от человека, а человек подсовывает ей суррогат. Покупая в магазине банку тушёнки, вы ведь ожидаете увидеть мясо, а не соевое «нечто». Если вы злоупотребляете инструментами искусственного интеллекта, то рано или поздно останетесь с той аудиторией, которая готова «кушать соевую тушёнку». Вряд ли вы сами захотите потреблять такой контент. ИИ в принципе не может заменить творческого человека. Он может помочь ему стать более эффективным, лучше находить новые темы и разбираться в них. Я не вижу отрицательных качеств ИИ как такового — всё зависит от того, кто будет им пользоваться и в каком объёме. Продукт хорошего качества в контентной среде произвести в принципе сложно, и тем людям, которые боятся, что ИИ их заменит, стоит задуматься, достаточно ли качественный продукт они производят. Не знаю ни одного профессионала, который бы боялся, что его кто-то заменит».

Оценивая использование искусственного интеллекта в журналистике, необходимо не упускать из виду то, что речь – это, с одной стороны, способ существования языка, то есть инструмента обмена информацией и организации поведения личности и социума, с другой стороны, это инструмент мышления, то есть решения практических задач, которые вытекают из особенностей жизнедеятельности людей, рассказал главный редактор «Московской газеты» Валерий Ивановский.

«Чтобы жить мы вынуждены обмениваться веществом и энергией с внешней средой, то есть удовлетворять потребности, что для людей возможно, только используя речь. То есть, речь намертво привязана к человеку и его потребностям, формулирует и удовлетворяет их. Потребности детерминированы нашим телом и социумом. Вне потребностей и человека речь не имеет никакого самостоятельного значения. Так, молоток имеет смысл только в контексте человеческой культуры и замысла конкретного человека, держащего в руке молоток: он, исходя из сложной констелляции внутренних и внешних условий, решает, как применить молоток — для разрушения или созидания. Причем конкретно, для разрушения каких вещей, в какой последовательности и созидания каких вещей: ящика, бани, дома, лавки. Вне человека молоток не может желать и выбирать деятельность. Любой ИИ — это база данных той или иной степени наполненности, интерфейс по их извлечению и комбинации. Но в любом случае результативность ее использования напрямую зависит от профессионализма оператора, того, кто запрашивает информацию у ИИ. Поэтому, чем ниже знания в своей трудовой деятельности у человека, тем ниже качество использования ИИ, потому что здесь степень невежества человека умножается на функциональные ограничения базы данных и интерфейса взаимодействия с оператором», — рассказал Валерий Ивановский.

Часто ИИ преподносится как средство не просто облегчить труд человека, но и заменить его, отметил главный редактор «Московской газеты».

«Журналистика — это высокоинтеллектуальная деятельность, которая требует сочетания широкого кругозора, зрелой нравственности и великодушия, что находится за пределами возможности ИИ. К тому же, отучая кого-то мыслить, вряд ли мы повысим качество его мыслительной деятельности и её продуктов. Никто не может мыслить вместо меня, потому что в контексте человеческой жизни мыслить — это жить, ставить и осуществлять цели, воплощая смысл индивидуальной и социальной жизни. Использовать ИИ в журналистике — это как тренировать тело, лёжа на диване. На практике журналистские тексты, сгенерированные при помощи ИИ, грешат смысловыми и стилистическими ошибками, которые являются зеркальным отражением профессионального уровня журналиста. Текст — это всегда штучный проект, чистое творчество, и здесь не нужны грубые продукты, которые выдают ИИ», — подчеркнул Валерий Ивановский.