Hur fungerar en språkmodell?
I det här kapitlet undersöker vi hur stora språkmodeller fungerar. Vi ser hur text görs om till tal, hur modellen beräknar sannolikheter för nästa bit text och hur den tränas. Till sist prövar vi när en språkmodell är rätt verktyg och när något annat fungerar bättre.
Innehåll
Varför AI-svar kan vara både pinsamma och imponerande, och hur en språkmodell beräknar sannolikheter för nästa ord, delar text i tokens och skriver sitt svar ett steg i taget.
Gissa nästa ord som en språkmodell, se hur texten delas i tokens, skriv med modellen och undersök hur temperaturen påverkar svaren och om det sannolika alltid är sant.
Hur text används för att träna en språkmodell, hur den blir en assistent och varför en ny instruktion kan ändra svaret utan ny träning.
Undersök hur chattramen påverkar modellens svar och öva på att kontrollera påståenden och sammanfattningar. Övning till Hur tränas en språkmodell?
Modellen bakom tjänsten, modellstorlek och tillgång till vikter samt hur kvalitet, kostnad och resursbehov påverkar valet av språkmodell.
Skilj på tjänst, modell och företag, jämför fem språkmodeller på storlek, vikter, hastighet, kostnad och klimatpåverkan och välj modell efter uppgiften. Övning till Vad finns bakom språkmodellerna?