Modelltolkning er ikke et spørsmål om hvilken ML-metode du bruker (hvilket modellsubstrat, f.eks. NN-er vs grafiske modeller vs symbolsk kode). Ethvert substrat kan tolkes når modellen er liten nok. Det er utelukkende et spørsmål om modellstørrelse/kompleksitet. Oppførselen til en kompleks kodebase eller en kompleks grafisk modell kan ikke tolkes til tross for at du lokalt kan lese noe av det den gjør. Det er kanskje *feilsøkbart* i spesifikke tilfeller med stor innsats -- men det samme vil gjelde for NN-er også. IMO utsagnet "vi må bruke tolkbare metoder" er en nonstarter, det betyr at du vil begrense deg til leketøysmodeller.

Å si at dyp læring er «bare en haug med matrisemultiplikasjoner» er omtrent like informativt som å si at datamaskiner «bare er en haug med transistorer» eller at et bibliotek er «bare mye papir og blekk». Det er sant, men kodingssubstratet er den minst viktige delen her. Det er programmene som kodes som er interessante og nyttige: hva de kan gjøre, hva de ikke kan gjøre, hvor godt de generaliserer, hvor effektivt de kan læres osv.

Ikke sikker på om USD-inflasjonen noen gang vil være under 2 % igjen i min levetid