Ce este nevoie pentru ca un computer să învețe regulile de asociere a bazelor ARN? Oamenii antrenează modele lingvistice mari pentru predicția structurii ARN. Unele dintre aceste modele au sute de milioane de parametri. Un rezultat timpuriu interesant a fost că aceste modele învață regulile perechii de bază Watson-Crick-Franklin direct din date. Un grup de cercetare de la Harvard a decis să vadă care este cel mai mic model posibil care ar putea obține acest rezultat. Ei au antrenat un model probabilistic mic cu doar 21 de parametri folosind coborârea gradientului. Cu doar 50 de secvențe de ARN – fără structuri corespunzătoare – regulile de asociere a bazelor ar apărea după doar câteva epoci de antrenament. Așa că răspunsul la întrebarea lor inițială a fost că este nevoie de "mult mai puțin decât ați putea crede" pentru a învăța acest tip de model. Nu cred că asta înseamnă că eforturile de formare la scară largă sunt neapărat stupide sau greșite. Dar acest rezultat sugerează că există multă eficiență și performanță care pot fi încă obținute din inovația arhitecturii. Există o mulțime de structuri de bază în limbajul biologiei.