„Vortraining ist tot“ lautet eine derzeit verbreitete Einschätzung. Doch Mark Chen, Chief Research Officer bei OpenAI, vertrat in einer kürzlich erschienenen Folge des Latent Space Podcast die gegenteilige Ansicht: Vortraining ist nicht tot, sondern wird vielmehr unterschätzt. Ein weiterer unterschätzter Bereich sei das Produktdenken: sich über den letztendlichen Verwendungszweck klar zu werden und die in der Forschung entwickelten grundlegenden Komponenten mit konkreten Anwendungsszenarien für intelligente Agenten in der realen Welt zu verbinden. Seiner Ansicht nach darf Forschung nicht abgeschottet im luftleeren Raum betrieben werden. Ohne Bezug zur praktischen Anwendung lässt sich selbst die beste Technologie nur schwer in ein wirklich nützliches Werkzeug verwandeln. Quelle: Latent Space Podcast(https://www.youtube.com/watch?v=fpAthTtha8c)