В России собираются ограничить сферы применения и полномочия нейросетей. Ключевые решения должен принимать человек, а не робот. Новый закон, который разрабатывают в нашей стране, основан на негативном зарубежном опыте.
Порой, нейросетям доверяют слишком много. В том числе и жизнь человека. К примеру, в США пациенты получали тяжелые травмы из-за медоборудования с искусственным интеллектом.
Наши электронные помощники в таких страшных историях не были замешаны, правда, слишком глубоко погрузились в знание русского мата. Как так вышло, узнала корреспондент «Известий» Наталия Оскерко.
Разработка, которую так нахваливали западные ученые — с электронными помощниками хирургов — дала сбой. Уже подсчитали, искусственный интеллект, направлявший инструменты хирурга, ошибся, как минимум, 100 раз.
Десять пациентов получили серьезные травмы — вплоть до повреждения артерий и инсульта. Врачи доверяют нейросети забор крови, поиск опухолей и постановку диагноза.
В странах с прецедентным правом юристы пишут с помощью ИИ свои речи! Примеры провалов уже есть. «Адвокат пришел в суд, выступил, даже выиграл, но потом, когда стали разбирать его речь, выяснилось, что все его случаи были придуманными.
Искусственный интеллект просто придумал случаи, которые очень похожи на настоящие, но настоящими не являются», — объясняет руководитель Международного центра цифровой криминалистики Санкт-Петербурга Андрей Чечулин.
Ошибка искусственного разума может стоить человеку здоровья, свободы и даже жизни.
«С одной стороны, это действительно абсолютная магия, невероятный инструмент, который позволяет то, что было невозможно еще полгода назад. С другой стороны, это огромная иллюзия, которая как раз и обманывает нас вот этой своей условной простотой, которой на самом деле нет», — говорит глава агентства по внедрению ИИ-инструментов в бизнес Сергей Черненко.
Искусственный интеллект обучают на основе огромного количества схем, текстов и изображений.
Он может принимать решения, но берет информацию из того, что заложил создатель, то есть человек.
Который тоже может ошибаться. «Если будет ошибка в этих данных, то потом и искусственный интеллект будет работать некорректно. Скорее, искусственный интеллект — это помощник… Он, скорее, помогает, а не заменяет людей», — считает Семен Галушкин, основатель ИИ-компании.
Но нейросеть пока не умеет учитывать мораль и этику, а также вникать в суть написанного.
Тут и начинаются промахи. Если нейросеть чего-то не знает, она начинает фантазировать. Это называют галлюцинациями языковой модели, и ни одна из них от этого не застрахована.
Например, стоит спросить искусственный интеллект: «Зачем Петру Первому нужны были автомобили?» — и получим вполне развернутый ответ о том, чего в принципе быть, конечно, не могло.
Первыми русскими космонавтами на Луне ИИ называет трех вымышленных людей, а Лермонтова отправляет в эмиграцию… в Аргентину. А еще нейросетка легко подстраивается под собеседника.
Например, месяц поработав в сфере ЖКХ, ИИ начал вдруг нецензурно выражаться. Видимо, такого наслушался от пользователей, что невольно… перестроился. Неудивительно, что полномочия искусственного интеллекта решили ограничить.
Для начала — в социально значимых сферах: здравоохранении, образовании, юриспруденции и общественной безопасности. «Если мы говорим о том, что искусственный интеллект будет оказывать какие-то финансовые консультации или консультации по медицинской сфере, то, конечно, нет.
Невозможно полностью довериться. Каждое решение нейронной сети нужно будет проверять», — утверждает руководитель инфраструктурных инженеров Илья Агиенко.
Решающую роль человека при принятии решений с использованием нейросети в таких областях планируют закрепить законодательно.
Подготовленный с учетом этих пожеланий документ Минцифры направит на согласование в правительство уже в этом месяце. Еще больше новостей — у Пятого канала в мессенджере MAX.
Рубрика: Новости. Читать весь текст на www.5-tv.ru.