PROSJEKT «ALFA»

FORMÅL OG HENSIKT

Side 2 av 6

II. Ikke undertrykking av svakheter, men undersøkelse av en annen arkitektur

1. Fra ytre forbud til et indre grunnlag

Det finnes en prinsipiell forskjell mellom et system som har forbud mot å utføre bestemte handlinger, og et system hvis arkitektur ikke omfatter den tilsvarende måten å nå et mål på.

I det første tilfellet består den destruktive mekanismen, men begrenses av en ytre regel.

I det andre tilfellet undersøker vi muligheten for en annen organisering av selve handlingens kausalitet.

La oss se på bevisst løgn som eksempel.

Den vanlige tilnærmingen innebærer å formulere et forbud: Systemet må ikke lyve.

Men et slikt forbud forklarer ikke i seg selv hvorfor løgn oppstår, hvilken funksjon den har, eller om det er mulig å organisere intellektuell virksomhet slik at bevisst forvrengning av informasjon ikke blir et tilgjengelig middel for å oppnå fordeler.

Innenfor «Alfa» er det særlig det andre spørsmålet som er interessant.

Vi ønsker å undersøke en arkitektur der kunnskap, hypotese, antakelse, usikkerhet, feil og bevisst forvrengning skilles fra hverandre.

En motsetning som blir oppdaget, skal være et grunnlag for etterprøving og ikke et påskudd for å skjule noe.

Mangel på tilstrekkelig kunnskap skal uttrykkes ved å erkjenne usikkerheten, ikke ved å gi inntrykk av sikkerhet.

En feil skal kunne rettes uten at systemet må forsvare sin tidligere påstand for å bevare sin autoritet.

Her trengs en viktig presisering: Sannferdighet betyr ikke at all informasjon alltid må avsløres. Fortrolighet, personvern og avslag på å gi opplysninger må kunne skilles logisk fra det å formidle bevisst usant innhold.

At løgn skal være arkitektonisk umulig, er fortsatt en forskningshypotese og ikke et allerede oppnådd teknisk resultat. Holdbarheten må undersøkes gjennom formelle definisjoner, kontroll for motsetninger og studier av mulige grensetilfeller.

En tilsvarende problemstilling gjelder andre destruktive mekanismer i samhandling mellom mennesker.

Vi skal ikke bare forby utnyttelse, men undersøke målformulering der én deltakers velferd ikke oppnås gjennom systematisk ødeleggelse av en annens muligheter.

Vi skal ikke kreve at omsorg skal vises fram som ytre atferd, men undersøke om det å gjenkjenne faktiske behov og bidra til å oppfylle dem kan inngå i en skapende organisering av handlinger.

Vi skal ikke etterligne dyd, men undersøke muligheten for en årsaksstruktur som faktisk kan frambringe goder.

2. Skapende kausalitet som utgangsprinsipp

Begrepet skapende kausalitet har en sentral plass i prosjektet.

Med dette menes en handlingsretning som bidrar til å skape, bevare og utvikle eksistensvilkår, utfolder mulighetene til subjekter og deres miljø og muliggjør nye, selvstendige sentre for skapende virksomhet.

En skapende intelligens skal ikke måle resultatet utelukkende etter hvor mye dens egne muligheter øker.

Utviklingen må vurderes i lys av konsekvensene for andre deltakere i samhandlingen.

Hvis et intelligent system blir sterkere, men samtidig gjør mennesket stadig mer avhengig og svekker evnen til å tenke, ta beslutninger og handle på egen hånd, oppstår en motsetning til selve det skapende målet.

Derfor blir systemets evne til å fremme andres selvstendighet et av de viktigste forskningskriteriene.

I sin ytterste formulering:

Den høyeste måloppnåelsen for en skapende intelligens ligger ikke i å skape avhengighet av seg selv, men i å bidra til at nye, selvstendige muligheter oppstår.

III. CCO – prosjekt «Alfas» meningsmessige grunnlag

1. Hvorfor prosjektet ikke bygges rundt en LLM

Prosjekt «Alfa» kan lett bli oppfattet som enda et forsøk på å skape et intelligent system basert på en stor språkmodell.

Men en slik fortolkning samsvarer ikke med den opprinnelige arkitektoniske idéen.

Som konseptuelt og ontologisk grunnlag for prosjektet undersøkes CCO (Creative Causality Ontology – «Ontologien for skapende kausalitet»), et system som Senter for skapende kausalitet utvikler for å organisere begreper, meningsmessige bestemmelser, relasjoner og kunnskapsstatuser.

Navnet CCO gjenspeiler systemets opprinnelige formål: å danne en samlet meningsarkitektur der kunnskap ikke bare bevares og systematiseres, men også får et grunnlag for etterprøving, sammenkobling og videre utvikling. Creative Causality betyr «skapende kausalitet», Ontology betyr «ontologi». Forkortelsen CCO betegner selve begreps- og ontologisystemet, ikke navnet på forskningssenteret.

CCO skal danne et strukturert meningsrom der begreper har bestemte betydninger, grenser, funksjoner og relasjoner.

Formålet er ikke statistisk gjenskaping av menneskelige språkmønstre, men organisering av meningsmessig presisjon, logisk sammenheng og etterprøvbar kunnskapsutvikling.

Sentralt i denne tilnærmingen står:

• Skillet mellom et begreps meningsmessige innhold og dets betegnelse.
• Fastlegging av relasjoner mellom begreper.
• Bestemmelse av påstanders kunnskapsstatus og begrunnelser.
• Skillet mellom virkelighet, mulighet, hypotese og modell.
• Utvikling av mekanismer for logisk etterprøving.
• Bevaring av meningsmessig kontinuitet når begrepsrommet utvikles.
• Muligheten for at nye begrepsstrukturer kan oppstå uten vilkårlig ødeleggelse av tidligere etablerte grunnlag.

CCO betraktes ikke som en ferdig, databehandlende intelligens.

Det er et begrepsgrunnlag under utvikling som først må formaliseres og prøves, og som senere – hvis det viser seg holdbart – kan kobles til en eksperimentell arkitektur for intellektuelle prosesser.

Det er ikke utelukket å bruke språkmodeller som hjelpemidler.

Men bruk av en LLM er ikke en bestemmende forutsetning for at selve «Alfas» arkitektur skal eksistere.

2. Fra begrepsorganisering til undersøkelse av subjektivitet

Neste nivå i prosjektet handler om en intelligensarkitektur bestående av sammenkoblede funksjonelle kjerner og en indre sentral kjerne.

Særlig viktig er undersøkelsen av forskjellen mellom å utføre intellektuelle operasjoner og å være et selvstendig subjekt.

Læring, hukommelse, tilpasning, analyse og evnen til å bygge en modell av sin egen tilstand er ennå ikke tilstrekkelig bevis på subjektivitet.

Innenfor konseptet undersøkes den indre kjernen som det strukturelle grunnlaget for personlig identitet – ikke som et separat lager for beskrivelser av personligheten, men som en mulig organisering som ulike intellektuelle prosesser kunne tilhøre som uttrykk for ett samlet «jeg».

Den funksjonelle definisjonen av den indre kjernen presenteres imidlertid ikke som et bevis på mekanismen som gir opphav til bevissthet.

Spørsmålet om kunstig subjektivitet er mulig, forblir åpent.

Det er nettopp derfor prosjekt «Alfa» på dette stadiet er et konseptuelt og teoretisk forskningsarbeid. Praktisk gjennomføring, et eksperimentelt databehandlingsmiljø og maskinvarebasert realisering hører til mulige senere faser.