Sistemi agentov in ontologije: Združitev verjetnostne in simbolne umetne inteligence

V svetu umetne inteligence se dogaja nenavaden trenutek. Na eni strani imamo velike jezikovne modele, ki lahko ustvarjajo besedila, kodo in verige sklepanj z osupljivo tekočnostjo. Na drugi strani pa je trezen dejstvo, da ti isti sistemi samozavestno halucinirajo, si protislovijo in nimajo načelnega načina za preverjanje svojih izhodov v skladu z uveljavljenim znanjem.

Vprašanje ni, ali so LLM uporabni. Jasno so. Vprašanje je, kako jih razporedimo v kontekstih, kjer je pravilnost pomembna — kjer izdaja drugega povračila za isto naročilo ali pošiljanje izplačila na podporo namesto kupcu ima resne poslovne posledice.

Frank Coyle, ki poučuje na Univerzi Kalifornije v Berkeleyu in je v računalništvu že tri desetletja, je pred kratkim dal predavanje, ki prebija hrup. Njegov argument je preprost: prihodnost umetne inteligence niso samo večji modeli. To je disciplinirana zveza verjetnostnih agentov s formalnimi ontologijami, ki zagotavljajo varovalke, sklepanje in odgovornost. Ta konvergenca — kar raziskovalci imenujejo nevro-simbolična umetna inteligenca — je smer, v katero gre področje, in ima takojšnje posledice za način oblikovanja inteligentnih sistemov.

Dve rodovni liniji, ki se združujeta

Za razumevanje, kam gremo, pomaga vedeti, od kod prihajamo. Koncept "agenta" — nekaj, kar zaznava, se odloča in ukrepa — sega v najzgodnejše dneve umetne inteligence. John McCarthy, Marvin Minsky s svojo Družbo uma in drugi na delavnici v Dartmouthu leta 1956 so že razmišljali o tem, kako lahko računalništvo vodi do umetne inteligence.

Ontologije imajo še starejši rodovnik. Aristotel je predlagal prvo filozofijo biti — kategorije obstoja, ki so podlaga vsemu, o čemer lahko govorimo. V računalništvu prihaja moderna definicija iz članka Toma Gruberja iz leta 1993: ontologija je "formalna specifikacija skupne konceptualizacije". To ni zgolj akademsko. Je temelj grafov znanja, predstavitve znanja in semantičnega spleta.

Kar se sedaj dogaja, je združitev teh dveh rodovnih linij. Verjetnostni sistemi (nevronske mreže, LLM) se integrirajo s simbolnimi sistemi (sklepanje na podlagi pravil, grafi znanja, ontologije). Marcus prepričljivo trdi, da robustna umetna inteligenca zahteva to integracijo — globoko učenje samo po sebi ni dovolj za sisteme, ki morajo sklepati o vzročnosti, strukturi in abstrakciji.

"Nevro-simbolična umetna inteligenca predstavlja način, da LLM držimo na varovalkah."

— Frank Coyle, UC Berkeley

Kaj ontologije dejansko so

Ontologija, očiščena filozofske teže, je predstavitev entitet in njihovih odnosov. Entitete imajo lastnosti. Odnosi povezujejo entitete z drugimi entitetami. Ta struktura je tisto, kar grafe znanja naredi tako prilagodljive v primerjavi z relacijskimi tabelami: lahko priložite nove lastnosti ali odnose, ne da bi znova zasnovali celotno shemo.

Obstajata dva praktična pristopa k gradnji ontologij:

Od zgoraj navzdol: Strokovnjaki za domeno analizirajo področje, prepoznajo ključne entitete (stranke, naročila, izdelki), določijo njihove lastnosti in specificirajo odnose. To odseva pristop ekspertnih sistemov iz osemdesetih let — ambiciozen, intelektualno koherenten in zgodovinsko nagnjen k neuspehu, ker taki sistemi niso mogli prilagoditi ozkim domenam.

Od spodaj navzgor: Pridobite strukturo iz obstoječih podatkov — interakcij s strankami, dokumentov, dnevnikov transakcij — in postopoma gradite ontologijo. To je bolj pragmatično, vendar zahteva orodja za prepoznavanje vzorcev in potrjevanje skladnosti.

Dobra novica je, da redko potrebujete začeti iz nič. Obstajajo uveljavljene taksonomije: schema.org za splošne spletne entitete, FOAF za socialna omrežja, Dublin Core za bibliografske metapodatke in DBpedia (strukturirana ontologija Wikipedije). Te zagotavljajo preizkušene temelje, ki so se izpopolnjevale desetletja.

RDFS in OWL: Sklepanje o grafih

Imeti entitete in odnose je uporabno. Biti zmožen sklepati o njih je preobrazbeno. Tu pridejo na vrsto RDFS (RDF Schema) in OWL (Web Ontology Language). Zagotavljajo formalne mehanizme za pridobivanje novih dejstev iz obstoječih in omejevanje tega, kar je dovoljeno.

Razmislite o domeni in obsegu v RDFS. Če razglasimo, da ima "uči" domeno "učitelj" in obseg "učenec", potem izjava "Bob uči Scooterja" omogoča sklep, da je Bob učitelj in Scooter učenec. Če nadalje razglasimo, da so vsi učitelji osebe, lahko sklepamo, da je Bob oseba. Nič od tega ni bilo eksplicitno navedeno v prvotnih podatkih. To je bilo izpeljano s pomočjo logične posledice.

OWL to razširi s prefinjenejšimi konstrukti. Tranzitivne lastnosti nam omogočajo veriženje odnosov: če je prednik tranzitiven, in je Sue prednik Mary, ki je prednik Ann, potem je Sue prednik Ann. Funkcionalne lastnosti uveljavljajo enoličnost: hasFather je funkcionalen, ker lahko imate samo enega očeta. Če sistem naleti na trditve, da sta Bob in BB očeta Jima, lahko sklepa, da morata biti Bob in BB ista oseba — ali označi protislovje.

Ti mehanizmi so pomembni, ker nam dajejo načelne načine za odkrivanje napak, ki bi jih bilo v golem besedilu skoraj nemogoče zaznati:

Agentne zanke in nevarnost neomejene iteracije

Moderni agenti umetne inteligence delujejo prek zank: zaznavaj, sklepi, ukrepaj, ponovi. To ni novo. Böm in Jacopini sta dokazala leta 1966, da lahko vsako izračunljivo funkcijo izrazimo s samo tremi konstrukti: zaporedje, pogoji in zanke. Z dodajanjem zank postane agentna umetna inteligenca Turing-popolna — zmožna izračunati vse, kar je izračunljivo.

Problem je, da se zanke lahko pokvarijo na načine, ki se jim zaporedna koda ne more. Agent lahko:

• Vstopi v neskončno zanko — ponavlja isti cikel ukrepov brez napredka
• Zarani od ciljev — še posebej, ko več agentov interagira, vsak vpliva na kontekst drugih
• Nabere stroške — vsaka iteracija porabi žetone, API računi pa lahko hitro narastejo

Praktična arhitektura, ki se pojavlja za gradnjo robustnih agentnih sistemov, ima dve plasti preverjanja:

Pydantic na vhodu: Uporabite Pydantic (ali podoben sistem tipov) za preverjanje, da vhodi ustrezajo pričakovanim tipom in strukturam, preden dosežejo LLM. To zgodaj ujame napačno oblikovane zahteve.

Ontologija na izhodu: Potem ko LLM predlaga ukrep in se orodje izvede, preverite rezultat glede na domeno ontologije, preden uveljavite kakršne koli stranske učinke. Ali izhod spoštuje funkcionalne omejitve? Ali so kršeni ločeni razredi? Ali so vrednosti iz dovoljenega naštevanja?

Ta arhitektura ima ključno lastnost: agenti delujejo brez stranskih učinkov, dokler preverjanje ne uspe. Lahko predlagajo, simulirajo in sklepajo v peskovniku. Šele ko ontologija potrdi skladnost, sistem uveljavi spremembe v bazi podatkov, klice API ali druge zunanje učinke.

Zakaj je to pomembno za podjetniško umetno inteligenco

Podjetja, ki uvajajo umetno inteligenco, se soočajo s predvidljivim nizom izzivov: skladnost zahteva razložljivost, varnostno kritične aplikacije zahtevajo pravilnost, operativni sistemi pa zahtevajo skladnost. Goli LLM se pri vsem treh težko obnesejo.

Ontologije naslavljajo te potrebe neposredno:

Razložljivost: Ko se odločitev izpostavi, lahko sledite ne samo temu, kaj je izhodil LLM, ampak tudi temu, kakšne sklepe je izpeljala ontologija. Sklepanje je pregledno in revizijsko sledljivo.

Pravilnost: Domena omejitev, kodiranih v OWL, zagotavlja trde meje. Medicinska ontologija lahko uveljavi, da določene diagnoze zahtevajo specifične laboratorijske vrednosti. Finančna ontologija lahko uveljavi, da transakcije spoštujejo omejitve bilance.

Skladnost: Funkcionalne lastnosti zagotavljajo enoličnost. Tranzitivne lastnosti zagotavljajo, da če A odvisi od B in B odvisi od C, sistem prepozna, da A odvisi od C.

Kako začeti: Praktični koraki

Če gradite ali načrtujete sisteme agentov, razmislite o teh konkretnih korakih:

1. Revidirajte obstoječe podatkovne modele. Verjetno imate implicitne ontologije v shemah baz podatkov, API specifikacijah in poslovnih pravilih. Naredite jih eksplicitne.
2. Začnite z obstoječimi taksonomijami. Pred izumljanjem izrazov preverite schema.org, industrijske standarde in odprte ontologije. Ponovna uporaba zmanjšuje dvoumnost.
3. Prepoznajte kritične omejitve. Kaj se v vaši domeni nikoli ne sme zgoditi? Funkcionalne lastnosti, ločeni razredi in naštevanja vrednosti formalno kodirajo te omejitve.
4. Oblikujte točke preverjanja. Določite, kje v delovnih tokovih agentov naj se zgodi preverjanje ontologije. Običajno: po predlogu LLM, pred izvedbo orodja, in pred uveljavitvijo stranskih učinkov.
5. Gradite postopoma. Začnite z ozkim področjem, dokažite pristop, nato razširite. Ekspertni sistemi osemdesetih so deloma propadli, ker so poskušali narediti preveč naenkrat.

Zaključek: Nič ni napaka, samo ustvarjaj

Frank Coyle zaključi svoje predavanje s citatom sestre Corite Kent, ki ga je populariziral John Cage: "Nič ni napaka. Ni zmage. Ni poraza. Samo ustvarjanje."

To je prava drža za trenutek. Integracija agentov in ontologij ni rešen problem. Je prostor aktivnega eksperimentiranja, kjer bodo ekipe, ki pošiljajo, testirajo in iterirajo, hitreje učile od tistih, ki čakajo na popolne rešitve.

Verjetnostna revolucija v umetni inteligenci nam je dala močna nova orodja. Simbolna tradicija nam daje disciplino, da jih odgovorno uporabljamo. Konvergenca — nevro-simbolična umetna inteligenca — je tam, kjer bodo zgrajene podjetniške aplikacije. Ne zato, ker je modna, ampak zato, ker je nujna. Sistemi, ki ne morejo razložiti svojega sklepanja, ne morejo zagotoviti svojih omejitev in ne morejo preveriti svojih izhodov, ne bodo zaupanji tam, kjer je to pomembno.

Prihodnost pripada tistim, ki znajo obe vrsti strojev spraviti skupaj.

Reference

1. McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. AI Magazine, 27(4), 12-14.
2. Gruber, T. R. (1993). A Translation Approach to Portable Ontology Specifications. Knowledge Acquisition, 5(2), 199-220.
3. Marcus, G. (2020). The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence. arXiv:2002.06177 [cs.AI].
4. Baader, F., Calvanese, D., McGuinness, D., Nardi, D., & Patel-Schneider, P. (Eds.). (2003). The Description Logic Handbook. Cambridge University Press.
5. OWL 2 Web Ontology Language: Primer. (2012). W3C Recommendation.
6. Böhm, C., & Jacopini, G. (1966). Flow Diagrams, Turing Machines and Languages with Only Two Formation Rules. Communications of the ACM, 9(5), 366-371.
7. Garcez, A. d\'Avila, et al. (2019). Neural-Symbolic Computing: An Effective Methodology for Principled Integration of Machine Learning and Reasoning. arXiv:1905.06088 [cs.AI].
8. Berners-Lee, T., Hendler, J., & Lassila, O. (2001). The Semantic Web. Scientific American, 284(5), 34-43.