Человек, пользующийся нейросетями, получив недостоверную информацию, может на ее основе принять неверное решение
Источник:
Главную опасность при внедрении искусственного интеллекта видит в вероятности неверных решений, основанных на недостоверных данных, которые порождают нейросети. Об этом на форуме «Инфотех» сообщил Станислав Логинов — заместитель губернатора Тюменской области, одновременно возглавляющий региональный департамент информатизации.
«Я вижу основной риск — это принятие неверного решения. Все, что мы внедряем в Тюменской области, ни в коем не позиционируем как замену живого человека. Человек всегда в центре внимания. Как бы технология ни работала во благо, — подсказывала второе, третье мнение, анализировала снимки, ускоряла процесс оказания медицинской помощи, — в своей жизни мы часто сталкиваемся, что нейросети додумывают вещи, которых не было, и искажают факты, информацию», — приводит его слова пресс-служба.
В качестве иллюстрации Логинов описал случай, когда человек с помощью ИИ готовит презентации и письма, однако затем не может ответить на простейшие вопросы — материал вместо него создала технология.
Второй риск, по его оценке, связан с угрозой информационной безопасности.
Ранее сообщалось, что умные камеры на дорогах Тюмени фиксируют обстановку и поведение водителей и строго наказывают нарушителей. Читатели утверждали, будто техника реагировала не только на телефон, но и на ладони и другие предметы, формой напоминающие смартфон. В региональной Госавтоинспекции разъясняли, как работают эти камеры.
