Основная проблема здесь, на мой взгляд, заключается в том, что практики машинного обучения не понимают, что мы не понимаем, что происходит с нейронными сетями. Фермер, который не имеет представления о биологии растений, но успешно выращивает урожай, будет считать, что он понимает растения. В некотором смысле он действительно понимает, но не совсем.