Инженер рассказал о трудностях с подбором химических опытов через ИИ
Ограничения нейросетей осложняют работу над химическими экспериментами. Отказы ИИ могут касаться даже реакций, не представляющих опасности. Об этом ТАСС сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета, автор блога «Химия — Просто» Александр Иванов.
По словам Иванова, ИИ активно используют при работе над научно-популярными программами — он помогает писать сценарии и подбирать опыты для демонстрации. Однако вместо нужных сведений можно получить предупреждение о потенциальном риске. Нейросеть объясняет отказ тем, что для проведения эксперимента нужна специальная подготовка.
Иванов также обратил внимание на разницу между профессиональной и неподготовленной аудиторией. Специалист может оценить достоверность ответа и обнаружить ошибку, тогда как человеку без необходимых знаний недостоверная информация может показаться верной. По оценке инженера, нельзя исключить и рекомендации, способные привести к травмам, если пользователь решит им следовать.
Как рассказал Иванов, год назад сервисы отвечали на более широкий круг запросов, но нередко выдумывали химические реакции. Теперь, по его оценке, нейросети гораздо жестче ограничивают ответы, причем отказывают в информации и о безопасных опытах.