Al tratarse de una ciencia tan joven, el aprendizaje automático (AM) se redefine constantemente.
Muchos consideran que los sistemas de IA autónomos y autosupervisados son el próximo gran disruptor, o definidor potencial, de la disciplina.
Entre los llamados «modelos fundacionales» se encuentran DALL-E 2, BERT, RoBERTa, Codex, T5, GPT-3, CLIP y otros. Ya se utilizan en áreas como el reconocimiento del habla, la codificación y la visión por ordenador, y están surgiendo en otras. Al evolucionar en capacidad, alcance y rendimiento, utilizan miles de millones de parámetros y son capaces de generalizar más allá de las tareas previstas. Por ello, inspiran asombro, ira y todo lo demás.