AI Engineering

AI Engineering — összefoglaló

A varázslat, ami öt perc alatt megvan, és a termék, ami sosem készül el

Képzeld el, hogy egy szombat délután beülsz a géped elé, beírsz három mondatot egy chatbotnak, és tíz perc múlva ott van előtted valami, ami öt évvel ezelőtt egy teljes mérnökcsapat fél éves munkája lett volna. Működik. Lenyűgöző. Megmutatod a barátaidnak, és mindenki azt mondja: ezt áruld el, ezzel meg lehet gazdagodni. Aztán nekiállsz igazi termékké formálni. És akkor kezdődik a rémálom.

Chip Huyen, aki a Stanfordon tanított gépi tanulást és az NVIDIA-nál meg a Snorkel AI-nál dolgozott, pontosan ezt a kettősséget írta meg egy egész könyvben. Több mint száz mérnököt kérdezett meg az OpenAI-tól, a Google-től, az Anthropictól, és kétszáznál is több nyilvános AI-alkalmazást vizsgált át. A tanulsága egyetlen mondatban összefoglalható, és érdemes a falra kitenni: menő demót építeni könnyű, nyereséges terméket építeni nehéz. A szakadék a kettő között nem technikai apróság. Ez maga a szakma.

Ez a könyv nem arról szól, hogyan tanítasz be egy modellt a nulláról. Arról szól, hogyan veszel egy kész, gigantikus nyelvi modellt, amit mások építettek, és hogyan csinálsz belőle valamit, ami tényleg megoldja egy ember problémáját, megbízhatóan, nap mint nap. Hogy mikor elég egy jó utasítás, és mikor kell több. Hogyan méred meg, hogy a géped tényleg jól dolgozik-e, vagy csak jól hangzik. És miért az lesz a végén a versenyelőnyöd, amire a legkevésbé számítanál: nem a modell, hanem az adat, amit a saját felhasználóid hagynak hátra.

Amikor a statisztika megfejtette a táncoló emberkéket

Hogy megértsd, mi zajlik a motorháztető alatt, menjünk vissza 1905-be. Sherlock Holmes egy különös rejtéllyel találkozik: papírfecniken apró, táncoló pálcikaemberkék, mintha egy gyerek firkálta volna őket. Valójában egy titkosírás. Holmes nem úgy fejti meg, hogy egyenként kitalálja a jeleket. Tudja, hogy az angolban az „e” a leggyakoribb betű, ezért megkeresi a leggyakrabban előforduló emberkét, és onnan gombolyítja fel a fonalat. Statisztikára épít, nem varázslatra.