1.fejezet ingyen
AI Engineering
Miről szól?
Menő demót építeni könnyű, nyereséges terméket építeni nehéz. Ez a könyv nem arról szól, hogyan tanítasz be egy modellt a nulláról, hanem hogyan csinálsz belőle valami terméket, ami tényleg megoldja egy ember problémáját, nap mint nap. Megtanulod, hogyan méred meg, hogy a géped tényleg jól dolgozik-e, mitől telnek el az utolsó százalékok, és miért az adat lesz végül a versenyelőnyöd.
A három legfontosabb gondolat
Értékelés mint legnagyobb akadály
A legtöbb csapat a fejlesztés legfontosabb lépését, a modell teljesítményének mérését kezeli a leghanyagabbul, pedig ezen áll vagy bukik a termék.
Demótól a termékig vezető út
Működő demót pár óra alatt bárki épít, de a megbízható, kész termék a hatvantól százig tartó gyötrelmes utat kívánja meg.
Adat mint valódi versenyelőny
Egy AI-termék igazi versenyelőnye nem a modell, hanem a felhasználók viselkedéséből visszacsatolt, egyedi adat, amit senki más nem tud megvenni.
Olvass bele
AI Engineering — összefoglaló
A varázslat, ami öt perc alatt megvan, és a termék, ami sosem készül el
Képzeld el, hogy egy szombat délután beülsz a géped elé, beírsz három mondatot egy chatbotnak, és tíz perc múlva ott van előtted valami, ami öt évvel ezelőtt egy teljes mérnökcsapat fél éves munkája lett volna. Működik. Lenyűgöző. Megmutatod a barátaidnak, és mindenki azt mondja: ezt áruld el, ezzel meg lehet gazdagodni. Aztán nekiállsz igazi termékké formálni. És akkor kezdődik a rémálom.
Chip Huyen, aki a Stanfordon tanított gépi tanulást és az NVIDIA-nál meg a Snorkel AI-nál dolgozott, pontosan ezt a kettősséget írta meg egy egész könyvben. Több mint száz mérnököt kérdezett meg az OpenAI-tól, a Google-től, az Anthropictól, és kétszáznál is több nyilvános AI-alkalmazást vizsgált át. A tanulsága egyetlen mondatban összefoglalható, és érdemes a falra kitenni: menő demót építeni könnyű, nyereséges terméket építeni nehéz. A szakadék a kettő között nem technikai apróság. Ez maga a szakma.
Ez a könyv nem arról szól, hogyan tanítasz be egy modellt a nulláról. Arról szól, hogyan veszel egy kész, gigantikus nyelvi modellt, amit mások építettek, és hogyan csinálsz belőle valamit, ami tényleg megoldja egy ember problémáját, megbízhatóan, nap mint nap. Hogy mikor elég egy jó utasítás, és mikor kell több. Hogyan méred meg, hogy a géped tényleg jól dolgozik-e, vagy csak jól hangzik. És miért az lesz a végén a versenyelőnyöd, amire a legkevésbé számítanál: nem a modell, hanem az adat, amit a saját felhasználóid hagynak hátra.
Kinek szól?
- Akik kész nagy nyelvi modellekre építenek saját terméket vagy funkciót, és nem a nulláról akarnak modellt tanítani.
- Akik már láttak működő AI-demót, de nem értik, miért tart hónapokig mire az élesben is megbízhatóan fut.
- Akik szeretnék megtanulni, hogyan mérjék meg, hogy az AI-rendszerük tényleg jól dolgozik, ne csak jól hangozzék.
- Akik szoftverfejlesztőként vagy termékmenedzserként az AI-korszakban akarnak versenyképes, fenntartható alkalmazást építeni.
A szerzőről: Chip Huyen
Chip Huyen gépi tanulással foglalkozó mérnök és szerző. A Stanford Egyetemen tanított gépi tanulási rendszerekről szóló kurzust, és az NVIDIA, valamint a Snorkel AI munkatársaként szerzett iparági tapasztalatot. Korábbi könyve, a Designing Machine Learning Systems szintén az O'Reilly kiadónál jelent meg, és a hagyományos gépi tanulási rendszerek tervezéséről szól.
Az AI Engineering megírásakor több mint száz mérnököt kérdezett meg vezető cégektől, köztük az OpenAI-tól, a Google-től és az Anthropictól, és kétszáznál is több nyilvános AI-alkalmazást vizsgált át, hogy a könyv tanácsai valódi, éles tapasztalaton alapuljanak.
