Forklaret · 2 min
Hvad er rekursiv selvforbedring?
Hvorfor AI, der hjælper med at bygge bedre AI, kan sætte fart i udviklingen, og hvorfor firmaerne holder øje med det.
Skrevet af AI og tjekket mod vores redaktionelle kriterier. Ikke gennemgået af en redaktør.
Rekursiv selvforbedring er idéen om, at en AI kan hjælpe med at bygge en bedre AI, som så hjælper med at bygge en endnu bedre. Hver runde kan gå hurtigere end den forrige.
I dag er det mennesker, der bygger AI-modeller. De designer træningen, kører testene og retter det, der går galt. AI hjælper allerede med dele af arbejdet, for eksempel ved at skrive kode. Rekursiv selvforbedring er det, der kan ske, hvis AI selv laver mere og mere af forskningen.
Tænk på det sådan her: en fabrik, der bruger sine egne maskiner til at bygge bedre maskiner. De bedre maskiner bygger de næste hurtigere. Efter nogle runder ændrer fabrikken sig hurtigere, end de mennesker, der driver den, kan følge med.
Ordet “rekursiv” betyder, at processen fodrer sig selv. Bedre AI giver bedre AI-forskning, som giver bedre AI.
Ingen ved, hvor hurtigt det kan gå, eller om det overhovedet sker. Nogle ser det som en måde at sætte fart i videnskaben. Andre frygter, at AI kan blive bedre hurtigere, end mennesker kan forstå eller styre den.
Derfor holder AI-firmaerne øje med det. Anthropics sikkerhedsregler, Responsible Scaling Policy, sætter grænser for AI, der kan forske på egen hånd eller sætte kraftig fart i AI-udviklingen. Når en grænse nås, gælder der strengere sikkerhedskrav.
Hvad betyder det for dig: begynder AI at sætte fart i sin egen udvikling, kan dine værktøjer ændre sig meget hurtigere. Det store spørgsmål er, om mennesker bliver ved med at styre hvert skridt.