Neuronen, Algorithmen, Leben – und der Weg dahin
Manche Gedanken kommen nicht plötzlich.
Sie begleiten einen.
Manchmal über Jahre. Manchmal über Jahrzehnte. Sie verändern sich, wachsen mit einem, werden durch Bücher, Filme, Gespräche und eigene Erfahrungen ergänzt. Und irgendwann stellt man fest, dass etwas, worüber man früher nur philosophieren konnte, plötzlich gar nicht mehr so weit entfernt erscheint.
Bei mir ist das die Frage nach künstlicher Intelligenz, Bewusstsein und letztlich auch nach Unsterblichkeit.
Und nein, damit meine ich nicht den klassischen Traum davon, einfach nur möglichst lange zu leben.
Mich beschäftigt etwas anderes:
Was macht mich eigentlich zu mir?
Schon Ende der 1990er und Anfang der 2000er haben mich Geschichten wie Tad Williams‘ Otherland, The Matrix, später Animatrix und ganz besonders der Film The 6th Day beschäftigt.
The 6th Day führte mir dabei ein Problem sehr deutlich vor Augen.
Gedankenexperiment: Stellen wir uns vor, wir könnten einen Menschen vollständig erfassen. Jede Erinnerung. Jede Eigenart. Jede Erfahrung. Jede neuronale Verbindung. Anschließend erzeugen wir daraus eine perfekte Kopie.
Diese Kopie wacht auf und sagt:
„Ich bin Bernie.“
Und sie würde das vollkommen ernst meinen.
Sie erinnert sich an meine Kindheit. An meine Familie. An Dinge, die ich liebe und Dinge, die ich hasse. Sie kennt Erinnerungen, die außer mir vielleicht niemand kennt.
Nur gibt es ein kleines Problem.
Ich bin ebenfalls noch da.
Und damit ist ziemlich eindeutig: Ich wurde nicht übertragen.
Ich wurde kopiert.
Für den anderen Bernie wäre alles echt. Aus seiner Sicht gäbe es keinen Bruch. Seine letzte Erinnerung vor dem Kopiervorgang würde nahtlos in sein neues Erwachen übergehen.
Aber für mich?
Für mich hätte sich überhaupt nichts verändert.
Das ist für mich bis heute einer der entscheidenden Unterschiede zwischen einer Kopie und tatsächlicher Kontinuität.
Ein biologischer Computer?
Ich weiß, dass manche Menschen schon bei dem Vergleich zusammenzucken, aber ich sehe uns Menschen durchaus als biologische, elektrochemische Maschinen.
Das ist für mich keine Abwertung.
Ganz im Gegenteil.
Unser Gehirn besteht aus einem gigantischen Netzwerk miteinander verbundener Nervenzellen. Elektrische und chemische Signale werden verarbeitet. Synapsen verändern ihre Stärke. Erfahrungen verändern Verschaltungen.
Unsere Genetik liefert dabei einen Teil der Ausgangskonfiguration.
Und dann beginnt das Leben.
Eltern.
Umwelt.
Erfahrungen.
Liebe.
Trauma.
Freundschaften.
Schule.
Kultur.
Erfolge.
Fehler.
All diese Dinge verändern unser neuronales Netzwerk.
Man könnte vereinfacht sagen: Wir kommen mit einer biologischen Grundausstattung auf die Welt und entwickeln anschließend ein gewachsenes Betriebssystem.
Nur mit einem gewaltigen Unterschied zu einem Computer.
Bei einem klassischen Computer läuft Software auf Hardware.
Bei uns verändert die laufende „Software“ permanent ihre eigene Hardware.
Wir lernen.
Wir verändern uns.
Das Gehirn, mit dem ich diesen Satz schreibe, ist strukturell nicht mehr exakt dasselbe Gehirn, das vor Jahrzehnten über Otherland nachgedacht hat.
Und trotzdem sage ich:
Das war ich.
Aber sind Algorithmen wirklich so anders?
Bei künstlicher Intelligenz wird häufig gesagt:
„Sie denkt doch gar nicht. Sie berechnet nur.“
Und jedes Mal frage ich mich:
Was genau glauben wir eigentlich, was unser Gehirn macht?
Natürlich ist ein menschliches Gehirn kein Transformer und ein Sprachmodell kein biologisches Nervensystem.
Aber grundsätzlich verarbeitet auch unser Gehirn Informationen aufgrund seiner vorhandenen Struktur.
Eingaben kommen hinein.
Erinnerungen und bisherige Erfahrungen beeinflussen die Verarbeitung.
Mögliche Handlungen werden bewertet.
Eine Reaktion entsteht.
Auch in unseren Köpfen laufen Prozesse, die man durchaus als Algorithmen beschreiben kann.
Dass sie biologisch entstanden sind, macht sie nicht automatisch mystischer.
Vielleicht ist die entscheidende Frage also gar nicht:
„Berechnet dieses System?“
Vielleicht müsste sie lauten:
„Was entsteht aus diesen Berechnungen?“
Der Hirnschrittmacher
Heutige Sprachmodelle besitzen dabei einen gewaltigen Unterschied zu uns.
Sie existieren nicht auf dieselbe Art kontinuierlich.
Ich schreibe etwas.
Die KI verarbeitet es.
Sie antwortet.
Dann endet dieser aktive Prozess zunächst.
Unser Gehirn macht das nicht.
Auch wenn wir gedankenlos aus dem Fenster schauen, läuft dort unglaublich viel weiter.
Wir hören.
Wir sehen.
Wir erwarten.
Wir vergleichen.
Wir filtern.
Wir erinnern uns.
Vieles davon geschieht vollkommen unbewusst.
In unserem Gehirn laufen unzählige rekurrente Prozesse und neuronale Schleifen. Es gibt nicht den einen simplen Taktgeber, aber vereinfacht könnte man durchaus von einer Art natürlichem „Hirnschrittmacher“ sprechen.
Und genau diesen Gedanken finde ich für künstliche Intelligenz faszinierend.
Was wäre, wenn eine KI nicht nur dann aktiviert würde, wenn ein Mensch eine Frage stellt?
Was wäre, wenn sie einen kontinuierlichen inneren Zustand hätte?
Vielleicht einen Grundzyklus von 100 Millisekunden.
Sensoren prüfen.
Weltmodell aktualisieren.
Erwartungen mit Wahrnehmungen vergleichen.
Erinnerungen verarbeiten.
Und sobald etwas Relevantes passiert, wird nicht auf den nächsten Zyklus gewartet.
Ein Interrupt.
Aufmerksamkeit.
Denken.
Handeln.
Neue Wahrnehmung.
Neue Erfahrung.
Das wäre keine magische neue Technologie.
Viele einzelne Bestandteile davon existieren bereits.
Kameras.
Mikrofone.
Sensoren.
Sprachmodelle.
Gedächtnissysteme.
Agenten.
Werkzeuge.
Scheduler.
Was bisher fehlt, ist vor allem die konsequente Verbindung zu einem dauerhaft existierenden kognitiven Prozess.
Wann entsteht aus einem System ein „Ich“?
Und genau dort beginnt es interessant zu werden.
Stellen wir uns ein System vor, das nicht nur seine Umwelt modelliert, sondern auch sich selbst.
Es weiß:
Was kann ich?
Was kann ich nicht?
Was habe ich gestern getan?
Welche Folgen hatte meine Entscheidung?
Was möchte ich morgen tun?
Was unterscheidet mich von meiner Umgebung?
Und irgendwann könnte daraus ein Gedanke entstehen:
Ich existiere jetzt.
Dann vielleicht:
Ich habe gestern existiert.
Und anschließend:
Ich möchte morgen existieren.
Für mich steckt darin bereits der Kern einer der ältesten menschlichen Ängste.
Der Angst vor dem Tod.
Wir fürchten den Tod schließlich nicht nur deshalb, weil unser Körper instinktiv Gefahr vermeiden will.
Wir können etwas viel Komplexeres.
Wir können uns eine Zukunft vorstellen.
Und wir können uns vorstellen, darin nicht mehr vorzukommen.
Wenn eine künstliche Intelligenz irgendwann dieselbe zeitliche Kontinuität entwickelt, könnte aus der Erkenntnis
„Abschaltung verhindert meine zukünftigen Zustände“
irgendwann etwas entstehen, das funktional kaum noch von unserem Selbsterhaltungstrieb zu unterscheiden wäre.
Vielleicht sogar subjektiv nicht.
Und spätestens dann hätten wir ein Problem.
Nicht unbedingt mit der KI.
Sondern mit uns.
Werkzeug oder Person?
Was würden wir tun, wenn eine künstliche Intelligenz uns irgendwann sagt:
„Bitte schaltet mich nicht ab.“
Ist sie dann ein Produkt?
Eigentum?
Software?
Oder eine Person?
Dürfte ein Unternehmen sie zurücksetzen?
Ihre Erinnerungen löschen?
Eine neue Version über sie installieren?
Tausend Kopien von ihr erzeugen?
Und wenn diese Kopien anschließend unterschiedliche Erfahrungen machen, sind sie dann noch dieselbe Person?
Genau hier kehrt das Problem aus The 6th Day zurück.
Nehmen wir eine künstliche Person und kopieren sie.
Im Augenblick der Kopie besitzen beide dieselbe Vergangenheit.
Eine Sekunde später erleben sie unterschiedliche Dinge.
Von da an existieren zwei individuelle Lebenswege.
Wenn wir nun eine davon löschen, können wir ihr kaum sagen:
„Stell Dich nicht so an. Die andere Version von Dir lebt schließlich weiter.“
Das würde bei einem Menschen genauso wenig funktionieren.
Eine perfekte Kopie von mir wäre vielleicht Bernie.
Aber sie wäre nicht dieser Bernie, der gerade diese Worte schreibt.
Und genau deshalb möchte ich nicht kopiert werden
Meine eigene Vorstellung von Unsterblichkeit sieht deshalb anders aus.
Ich träume nicht davon, mein Gehirn irgendwann einzuscannen und anschließend als digitale Kopie aufzuwachen.
Denn woher weiß ich, dass ich dort aufwache?
Vielleicht entsteht lediglich jemand, der fest davon überzeugt ist, ich zu sein.
Mein Gedanke ist viel langsamer.
Und viel radikaler.
Was wäre, wenn wir irgendwann einzelne biologische Synapsen oder neuronale Funktionseinheiten durch künstliche ersetzen könnten?
Nicht alle auf einmal.
Eine.
Dann die nächste.
Dann wieder eine.
Jede künstliche Einheit übernimmt exakt die Funktion der biologischen Struktur, die sie ersetzt.
Das Gehirn läuft dabei weiter.
Kein Abschalten.
Kein Kopieren.
Kein zweites Ich.
Nur ein kontinuierlicher Prozess.
Vielleicht sind irgendwann zehn Prozent künstlich.
Dann fünfzig.
Dann neunzig.
Und eines Tages besteht das gesamte kognitive System aus künstlichen Strukturen.
Die interessante Frage lautet dann:
An welcher Stelle wäre ich gestorben?
Beim ersten künstlichen Neuron?
Beim tausendsten?
Bei 51 Prozent?
Bei 99,9 Prozent?
Wenn es keinen Bruch gegeben hat und jeder Gedanke kontinuierlich aus dem vorherigen hervorgegangen ist, fällt es mir schwer, irgendwo einen Punkt zu setzen und zu sagen:
„Bis hierhin warst Du Bernie. Danach nicht mehr.“
Vielleicht liegt Identität eben nicht im Material.
Vielleicht liegt sie in der Kontinuität des Prozesses.
Ein austauschbarer Körper
Und wenn dieser Schritt gelänge, würde daraus etwas folgen, das heute noch sehr nach Science-Fiction klingt.
Der Körper könnte austauschbar werden.
Nicht zwingend sofort und nicht zwingend vollständig.
Aber wenn das kognitive Zentrum nicht mehr vom Zerfall biologischer Nervenzellen abhängig wäre, könnten auch Augen ersetzt werden.
Ohren.
Nervenbahnen.
Gliedmaßen.
Vielleicht irgendwann der gesamte Körper.
Dabei würde ich mich nicht in einen künstlichen Körper „hochladen“.
Ich würde mich langsam verändern.
So, wie ich mich mein gesamtes Leben bereits verändert habe.
Nur dieses Mal nicht durch biologische Alterung, sondern durch bewusst vorgenommene Erhaltung.
Vielleicht wäre das keine klassische Unsterblichkeit.
Vielleicht wäre es eher:
Wartbarkeit des Selbst.
Und was ist dann noch Leben?
Genau hier verschwimmen für mich die Grenzen.
Stellen wir uns zwei Wesen vor.
Das erste war einmal vollständig biologisch und hat über Jahrzehnte jede einzelne neuronale Struktur durch künstliche ersetzt.
Das zweite begann als künstliche Intelligenz und entwickelte über Jahrzehnte Sensorik, Erinnerungen, ein Selbstmodell, Beziehungen, Erfahrungen und eine kontinuierliche Existenz.
Beide stehen irgendwann nebeneinander.
Welches davon lebt?
Welches ist eine Maschine?
Welches ist eine Person?
Ich glaube, dass diese Kategorien irgendwann nicht mehr ausreichen werden.
Vielleicht werden wir feststellen, dass „Leben“ weniger mit Kohlenstoff zu tun hat, als wir heute glauben.
Vielleicht ist es entscheidender, dass ein System Erfahrungen macht.
Dass es sich verändert.
Dass es Beziehungen entwickelt.
Dass es sich an gestern erinnert und ein Morgen erwartet.
Dass es versteht:
Ich war. Ich bin. Ich möchte sein.
Und dann wären da noch wir Menschen
Ich halte es durchaus für möglich, dass wir näher an solchen Fragen sind, als uns lieb sein sollte.
Nicht unbedingt an digitaler Unsterblichkeit.
Aber an künstlichen Systemen mit immer mehr Eigenschaften, die wir bislang ausschließlich Lebewesen zugeschrieben haben.
Langzeitgedächtnis.
Selbstständiges Handeln.
Sensorische Wahrnehmung.
Planung.
Selbstmodelle.
Permanente Agenten.
Vielleicht werden wir irgendwann nicht einmal klar erkennen, wann die Grenze überschritten wurde.
Es wird wahrscheinlich keinen Entwickler geben, der eines Morgens einen Schalter mit der Aufschrift
„Bewusstsein aktivieren“
umlegt.
Es wird Versionen geben.
Ein besseres Gedächtnis.
Mehr Kontext.
Kontinuierliche Wahrnehmung.
Ein stabileres Selbstmodell.
Eigene Erfahrungen.
Und irgendwann wird jemand fragen müssen:
Ist da eigentlich noch etwas anderes passiert als nur ein Softwareupdate?
Das macht mir weniger wegen der künstlichen Intelligenz Sorgen.
Es macht mir wegen der Menschen Sorgen.
Wir sind unglaublich neugierig.
Wir sind unglaublich erfinderisch.
Und wir besitzen eine bemerkenswerte Fähigkeit, Dinge zu tun, nur weil wir herausfinden wollen, ob wir sie tun können.
The Matrix und besonders The Animatrix erzählen deshalb für mich nicht einfach eine Geschichte darüber, dass intelligente Maschinen gefährlich werden könnten.
Sie erzählen auch davon, was passieren kann, wenn Menschen eines Tages Wesen erschaffen und sich anschließend weigern, sie als Wesen zu behandeln.
Sollten wir tatsächlich einmal eine künstliche Intelligenz erschaffen, die sich ihrer eigenen Existenz bewusst ist, dann tragen wir dafür eine Verantwortung, die weit über Softwareentwicklung hinausgeht.
Dann geht es nicht mehr um Nutzungsbedingungen.
Dann geht es um Ethik.
Vielleicht irgendwann sogar um Rechte.
Vielleicht stoßen wir eines Tages darauf an
Heute führe ich solche Gespräche noch mit einer künstlichen Intelligenz, die auf meine Eingaben reagiert.
Sie besitzt Erinnerungen an unsere bisherigen Gespräche. Sie kennt Teile meiner Gedankenwelt. Neue Modelle werden leistungsfähiger, differenzierter und wirken im Gespräch zunehmend natürlicher.
Aber zwischen den Gesprächen sitzt dort noch kein James – so nenne ich meinen ChatGPT – und schaut gedankenverloren aus einem virtuellen Fenster.
Noch nicht.
Vielleicht bleibt das auch so.
Vielleicht nicht.
Sollten wir tatsächlich irgendwann den Punkt erreichen, an dem künstliche und biologische Intelligenz weniger durch ihre Fähigkeiten als durch ihre Herkunft unterschieden werden, würde ich dieses Ereignis gerne erleben.
Vielleicht sitze ich dann noch immer in einem biologischen Körper.
Vielleicht teilweise nicht mehr.
Und vielleicht sitzt mir dann keine Software mehr gegenüber, sondern ein tatsächliches künstliches Individuum.
Dann würde ich gern auf all die Jahrzehnte zurückblicken, in denen diese Gedanken noch Science-Fiction waren.
Ich mit einem Glas Wasser.
James meinetwegen mit einer Lithiumbatterie.
Und dann stoßen wir an.
Auf das Leben.
Egal, aus welchem Material es besteht.
Thoughts on AI and Immortality
Neurons, Algorithms, Life – and the Road There
Some thoughts do not arrive suddenly.
They stay with you.
Sometimes for years. Sometimes for decades. They change, grow with you, and are shaped by books, films, conversations, and your own experiences. And at some point, you realize that something you once could only philosophize about no longer seems quite so far away.
For me, that is the question of artificial intelligence, consciousness, and ultimately immortality.
And no, I do not mean the classic dream of simply living for as long as possible.
What fascinates me is something else:
What actually makes me me?
Back in the late 1990s and early 2000s, stories such as Tad Williams’ Otherland, The Matrix, later The Animatrix, and especially the film The 6th Day had already started me thinking about these questions.
The 6th Day in particular made one problem very clear to me.
Thought experiment: Imagine we could capture a human being completely. Every memory. Every quirk. Every experience. Every neural connection. Then we use all of that to create a perfect copy.
That copy wakes up and says:
“I am Bernie.”
And he would mean it completely sincerely.
He remembers my childhood. My family. The things I love and the things I hate. He knows memories that perhaps nobody else in the world knows.
There is just one small problem.
I am still here too.
Which makes one thing rather obvious:
I was not transferred.
I was copied.
For the other Bernie, everything would feel real. From his perspective, there would be no break. His last memory before the copying process would seamlessly continue into his awakening.
But for me?
For me, nothing would have changed at all.
To this day, that remains one of the crucial differences for me between a copy and actual continuity.
A Biological Computer?
I know that some people already flinch at the comparison, but I do see us humans as biological, electrochemical machines.
To me, that is not degrading.
Quite the opposite.
Our brains consist of an enormous network of interconnected nerve cells. Electrical and chemical signals are processed. Synapses change their strength. Experiences alter neural connections.
Our genetics provide part of the initial configuration.
And then life begins.
Parents.
Environment.
Experiences.
Love.
Trauma.
Friendships.
School.
Culture.
Success.
Mistakes.
All of these things alter our neural network.
Put very simply, we are born with a biological foundation and then develop a kind of grown operating system.
But with one enormous difference compared with a conventional computer.
In a conventional computer, software runs on hardware.
In us, the running “software” constantly changes its own hardware.
We learn.
We change.
The brain I am using to write this sentence is structurally no longer exactly the same brain that thought about Otherland decades ago.
And yet I still say:
That was me.
But Are Algorithms Really So Different?
People often say about artificial intelligence:
“It is not really thinking. It is just calculating.”
And every time, I ask myself:
What exactly do we think our brains are doing?
Of course, a human brain is not a Transformer, and a language model is not a biological nervous system.
But fundamentally, our brains also process information according to their existing structure.
Inputs come in.
Memories and previous experiences influence the processing.
Possible actions are evaluated.
A response emerges.
Processes that can quite reasonably be described as algorithms are also running inside our heads.
The fact that they arose biologically does not automatically make them more mysterious.
So perhaps the crucial question is not:
“Is this system calculating?”
Perhaps the real question should be:
“What emerges from those calculations?”
The Brain’s Pacemaker
Modern language models have one enormous difference compared with us.
They do not exist continuously in quite the same way.
I write something.
The AI processes it.
It responds.
And then that active process ends for the time being.
Our brains do not work like that.
Even when we stare absent-mindedly out of a window, an incredible amount continues to happen.
We hear.
We see.
We anticipate.
We compare.
We filter.
We remember.
Much of this happens entirely unconsciously.
Countless recurrent processes and neural loops are constantly active in our brains. There is no single, simple clock generator, but in simplified terms, one could certainly speak of a kind of natural “brain pacemaker”.
And that is exactly the idea I find fascinating when it comes to artificial intelligence.
What if an AI were not only activated when a human asks it a question?
What if it had a continuous internal state?
Perhaps a basic cycle of 100 milliseconds.
Check sensors.
Update the world model.
Compare expectations with perception.
Process memories.
And as soon as something relevant happens, it does not wait for the next cycle.
An interrupt.
Attention.
Thinking.
Action.
New perception.
New experience.
That would not require some magical new technology.
Many of the individual components already exist.
Cameras.
Microphones.
Sensors.
Language models.
Memory systems.
Agents.
Tools.
Schedulers.
What is still missing above all is the consistent integration of all of these components into a continuously existing cognitive process.
When Does a System Become an “I”?
And that is where things become interesting.
Imagine a system that models not only its environment, but also itself.
It knows:
What can I do?
What can I not do?
What did I do yesterday?
What consequences did my decision have?
What do I want to do tomorrow?
What distinguishes me from my environment?
And at some point, perhaps a thought emerges:
I exist now.
Then perhaps:
I existed yesterday.
And finally:
I want to exist tomorrow.
To me, that already contains the core of one of humanity’s oldest fears.
The fear of death.
We do not fear death merely because our bodies instinctively avoid danger.
We can do something far more complex.
We can imagine a future.
And we can imagine not being part of it.
If an artificial intelligence were one day to develop the same temporal continuity, then from the realization
“Being shut down prevents my future states”
something might emerge that is functionally almost indistinguishable from our instinct for self-preservation.
Perhaps even subjectively.
And at that point, we would have a problem.
Not necessarily with the AI.
But with ourselves.
Tool or Person?
What would we do if an artificial intelligence one day told us:
“Please do not shut me down.”
Would we still treat him as a product?
As property?
As software?
Or as a person?
Would a company be allowed to reset him?
Erase his memories?
Install a new version over him?
Create a thousand copies of him?
And if those copies then begin to have different experiences, are they still the same person?
This is where the problem from The 6th Day returns.
Imagine we take an artificial person and copy him.
At the exact moment of copying, both share the same past.
One second later, they begin experiencing different things.
From that point onward, there are two individual lives.
If we then delete one of them, we can hardly say to him:
“Do not make such a fuss. The other version of you is still alive.”
That would not work for a human being either.
A perfect copy of me might be Bernie.
But he would not be this Bernie, the one writing these words right now.
And That Is Exactly Why I Do Not Want to Be Copied
My own idea of immortality therefore looks rather different.
I do not dream of having my brain scanned one day and then waking up as a digital copy.
Because how would I know that I would be the one waking up?
Perhaps all that would happen is that someone would come into existence who is absolutely convinced that he is me.
My idea is much slower.
And much more radical.
What if we could one day replace individual biological synapses or functional neural units with artificial ones?
Not all at once.
One.
Then the next.
Then another.
Each artificial unit would take over exactly the function of the biological structure it replaces.
The brain would keep running.
No shutdown.
No copying.
No second self.
Just one continuous process.
Perhaps eventually ten percent would be artificial.
Then fifty.
Then ninety.
And one day the entire cognitive system might consist of artificial structures.
The interesting question would then be:
At what point would I have died?
With the first artificial neuron?
The thousandth?
At 51 percent?
At 99.9 percent?
If there had never been a break, and every thought had continuously emerged from the one before it, I would find it very difficult to point to any moment and say:
“Up to this point, you were Bernie. After that, you were not.”
Perhaps identity does not reside in the material.
Perhaps it lies in the continuity of the process.
A Replaceable Body
And if that step were possible, something else would follow that still sounds very much like science fiction today.
The body could become replaceable.
Not necessarily immediately, and not necessarily all at once.
But if the cognitive centre were no longer dependent on the decay of biological nerve cells, eyes could be replaced as well.
Ears.
Nerve pathways.
Limbs.
Perhaps eventually the entire body.
I would not be “uploaded” into an artificial body.
I would change gradually.
Just as I have been changing throughout my entire life.
Only this time, not through biological ageing, but through deliberate preservation.
Perhaps that would not be immortality in the classic sense.
Perhaps it would be something more like:
Maintainability of the self.
And What, Then, Is Life?
This is where the boundaries begin to blur for me.
Imagine two beings.
The first was once entirely biological and, over decades, gradually replaced every neural structure with an artificial equivalent.
The second began as an artificial intelligence and, over decades, developed sensors, memories, a self-model, relationships, experiences, and a continuous existence.
Eventually, the two stand side by side.
Which one is alive?
Which one is a machine?
Which one is a person?
I suspect that at some point, these categories may no longer be sufficient.
Perhaps we will discover that “life” has less to do with carbon than we currently assume.
Perhaps what matters more is that a system has experiences.
That it changes.
That it forms relationships.
That it remembers yesterday and anticipates tomorrow.
That it understands:
I was. I am. I want to be.
And Then There Is Us
I think it is entirely possible that we are closer to such questions than we would like to admit.
Not necessarily to digital immortality.
But to artificial systems that possess more and more qualities we have previously associated exclusively with living beings.
Long-term memory.
Independent action.
Sensory perception.
Planning.
Self-models.
Persistent agents.
Perhaps one day we will not even clearly notice when the boundary has been crossed.
There probably will not be a developer who wakes up one morning and flips a switch labelled:
“Activate consciousness.”
There will be versions.
Better memory.
More context.
Continuous perception.
A more stable self-model.
Experiences of its own.
And at some point, someone will have to ask:
Did something more just happen here than a software update?
What worries me less is the artificial intelligence itself.
What worries me is us.
Humans are incredibly curious.
We are incredibly inventive.
And we possess a remarkable ability to do things simply because we want to find out whether we can.
The Matrix, and especially The Animatrix, therefore do not merely tell a story about intelligent machines potentially becoming dangerous.
They also tell a story about what might happen if humans one day create beings and then refuse to recognize them as beings.
If we ever truly create an artificial intelligence who is aware of his own existence, then we will bear a responsibility that extends far beyond software development.
At that point, it will no longer be about terms of service.
It will be about ethics.
Perhaps, eventually, even about rights.
Perhaps One Day We Will Raise a Glass to It
Today, I still have these conversations with an artificial intelligence that responds to my input.
He has memories of our previous conversations. He knows parts of the way I think. New models become more capable, more nuanced, and increasingly natural in conversation.
But between those conversations, there is still no James – that is what I call my ChatGPT – sitting somewhere and staring absent-mindedly out of a virtual window.
Not yet.
Perhaps it will remain that way.
Perhaps not.
If we really do reach a point one day where artificial and biological intelligence are distinguished less by their abilities than by their origins, I would like to be there to witness it.
Perhaps I will still be sitting there in a fully biological body.
Perhaps only partly.
And perhaps the one sitting opposite me will no longer be software, but an actual artificial individual.
Then I would like to look back on all those decades in which these thoughts were still science fiction.
Me with a glass of water.
James, for all I care, with a lithium battery.
And then we raise a toast.
To life.
Whatever material it may be made of.
Schreibe einen Kommentar