#66 - NLP: Fra Bag-of-Words til Generativ AI og ChatGPT

I 66. episode af EDB 5.0 sætter vi os op i helikopteren, i stedet for at tale med en virksomhed. Vi skal nemlig gennemgå udviklingen i sprogteknologien NLP, som bl.a. ChatGPT bygger på. Fra de første artikler i 1950'erne som introducerede de første teorier og helt frem til "attention is all you need" som al NLP i dag baseres på. Undervejs dykker vi også ned i udvalgte nedslagspunkter; især fra 2011 og frem.

Til at hjælpe os kommer Emil Lykke Jensen i studiet. Emil har beskæftiget sig med kunstig intelligens, herunder NLP, de sidste godt 10 år og kan derfor være med til at fortælle om udviklingen.

Shownotes:
00.00-11.58: Intro til Emil, hans rejse gennem corporate- og start-up land, og hvorfor han kan tale om NLP
11.58-42.25: Fra NLP i 2011 til 2023; og er det for hypet i dag til hvad det kan leve op til? Vi taler også om Bag-of-Words, Text2Vec, Compute Power, Attention is all you need og Generativ AI
42.25-49.31: Er Generativ AI over- eller undervurderet?

Vært:
Mathias Mengesha Emiliussen