LLM напоминают мне о пассивной индексации (например, S&P500). На ранних этапах они действительно ценны, потому что подражают (т.е. используют) тяжелую работу, которую все человечество вкладывает в принятие решений. Но по мере того как подавляющее большинство людей начинает полагаться на них, входные данные становятся круговыми. Хаос порождает хаос, и существующий контент механизма сам себя воспроизводит. Вся система становится нечеткой фотокопией.