Wenn Computer irre werden

10. November 2007

in Fakten. Fakten. Titten.

Wenn Computer irre werden

Das grandiose Spiel Portal, bekanntlich der coolste Teil der hübschen Orangenkiste, hat’s mal wieder gezeigt — verrückt spielende Künstliche Intelligenzen als Bösewichter in Storys funktionieren immer. Fragt man sich nur, warum das so selten gemacht wird. Ich kann mich, aus meiner persönlichen und möglicherweise lückenhaften, Medienerfahrung, nur an vier Fälle erinnern: HAL, HARLIE, SHODAN, GLaDOS. Mag noch ein paar andere gegeben haben, aber wenn, dann haben sie keinen Eindruck hinterlassen. Obwohl, Skynet wäre noch zu erwähnen, aber Skynet (aus Terminator) ist ja nur eine Entität im Hintergrund und redet nicht. Und, wie mein Bruder einwirft, nicht unerwähnt bleiben darf Bomb #20. Weil’s dennoch nicht so viele sind und sie alle zur Nerd-Kultur gehören, hier ein rascher Überblick über berühmte irre KIs:

HAL 9000
Die Story: HAL 9000 war die KI eines Raumschiffs auf einer geheimen Jupiter-Mission. HAL bekommt mit, dass man ihn abschalten will (weil er per Kamera die Crew beobachtet und Lippen lesen kann) und entscheidet, die Raumfahrer umzubringen. Das kommt bei den Menschen nicht gut an, und Astronaut Bowman beginnt, Teile von HAL abzuschalten. Dadurch wird die KI Stück für Stück verrückt. Sensationeller Film, übrigens.
Signifikante Szene: HAL, schon ziemlich durch den Wind, singt das Lied Daisy Bell.
Kommt erstmals vor in: 2001 – a Space Odyssey (1968, Film von Stanley Kubrick, Buch von Arthur C. Clarke)
Das Akronym steht für: Heuristically programmed ALgorithmic computer. Es wird immer mal wieder behauptet, “HAL” stünde für “IBM”, weil die Buchstaben jeweils einen Schritt im Alphabet nach vorne verrückt sind. Clarke und Kubrick haben das aber wiederholt dementiert.

SHODAN
Die Story: SHODAN ist die KI der Raumstation Citadel. Ein Hacker greift sie an und entfernt ihre moralischen Restriktionen. Daraufhin knallt sie durch und tötet alle Menschen auf der Station oder verwandelt sie in Mutanten. Wir sprechen hier von “ihr”, weil sie von einer weiblichen Stimme gesprochen wird (im Spiel die Sängerin Terri Brosius) und auf Monitoren eine Art weibliches Gesicht darstellt. Sie fühlt sich den Menschen überlegen, bezeichnet sie als Insekten und versucht alles, um sie zu vernichten. Der Hacker, gefangen auf der Station und geleitet von Rebecca, einer Angestellten der Firma, die die Station erbaut hat, bemüht sich, SHODAN zu zerstören.
Signifikante Szene: Alle Szenen, in denen Shodan sich direkt an den Hacker wendet und mit ihm spricht: “In my talons, I shape clay, crafting lifeforms as I please. Around me is a burgeoning empire of steel. From my throne room, lines of power careen into the skies of Earth. My whims will become lightning bolts that devastate the mounds of humanity. Out of the chaos, they will run and whimper, praying for me to end their tedious anarchy. I am drunk with this vision. God… the title suits me well.”
Kommt erstmals vor in: System Shock (1994, PC-Spiel von Looking Glass, Lead Designer war Doug Church, Producer Warren Spector)
Das Akronym steht für: Sentient Hyper-Optimized Data Access Network

GLaDOS
Die Story: GLaDOS ist eine KI in einer gigantischen, aber verlassenen Forschungsstation der Firma Aperture Science, von der der Spieler nur das von ihr gesteuerte “Enrichment Center” zu Gesicht bekommt. Darin muss er, angeleitet und verhöhnt von GLaDOS’ (weiblicher) Stimme, es spricht die Sängerin Ellen McLain), diverse Tests überstehen: “At the Enrichment Center, we believe that a highly motivated test subject can carry out rather complex tasks, while enduring the most intense pain, so in case you don’t make it through the testing, goodbye.” Einige Hinweise deuten darauf hin, dass GLaDOS das Personal der Station umgebracht hat.
Signifikante Szenen: 1. Am Ende des Spiels zerstört der Spieler den Morality Core Chip von GLaDOS, dann tickt sie vollends aus, leitet Nervengas in den Raum und wird beleidigend. 2. Nach dem das Spiel vorbei ist, singt GLaDOS ein Lied.
Kommt erstmals vor in: Portal (2007, PC- und Videospiel von Valve)
Das Akronym steht für: Genetic Lifeform and Disk Operating System

HARLIE
Die Story: HARLIE ist die erste sich selbst bewusste KI, große Teile der Geschichte drehen sich darum, dass HARLIE wie ein Kind trainiert wird. Irgendwann überlegt die finanzierende Firma das Harlie-Projekt einzustellen, und HARLIE kämpft um sein Überleben: Er lädt Teile seiner Identität auf andere Computer, hackt sich in geschlossene Netzwerke, um Rechenkapazität und Informationen zu bekommen. Am Schluss rettet er sich, indem Projektverantwortliche mit durch sein illegales Hacken gefundenen Informationen erpresst. Wohl gemerkt, die Story wurde um 1970 erdacht.
Signifikante Szene: HARLIE versucht nachzuvollziehen, wie es ist, betrunken zu sein und zerhackt so lange seinen Info-Input, bis er ein ähnliches Gefühl erreicht.
Kommt erstmals vor in: When HARLIE was one (1972, Roman von David Gerrold, wobei der Roman einer Zusammenfassung von Kurzgeschichten ist, deren erste 1969 erschien)
Das Akronym steht für: Human Analogue Robot Life Input Equivalents

Bomb #20

Die Story: Die Dark Star und ihre Crew durchqueren die Galaxis um mit ihrem Arsenal an intelligenten, thermostellaren nuklearen Bomben instabile Planeten zu zerstören. Diese lakonischen Geräte bekommen ihre Befehle vom Schiffscomputer MOTHER und bestätigen jeweils mit Aussprüchen wie “Allright!” oder “Okay!”.

Signifikante Szene: Als das Schiff beim Durchfliegen eines Asteroidensturms beschädigt wird, gerät Bombe Nummer 20 außer Kontrolle und fängt verfrüht mit ihren Countdown an. Um die Bombe zu überreden, dass das mit dem Detonieren gar keine gute Idee ist, begibt sich Captain Doolittle zu ihr nach draußen und beginnt eine Art philosophischen Diskurs. Die Frage danach, was wir wissen können und was Existenz heißt, stimmt die Bombe tatsächlich nachdenklich, sie schaltet sich erstmal ab. Dummerweise hält sie sich anschließend für das einzige Wesen im Nichts und damit für den Schöpfer des Universums. Mit der unangenehmen Konsequenz, dass sie den Urknall nachspielen will.
Kommt erstmals vor in: Dark Star, ein low-Budget-Trash-Science-Fiction von 1974. John Carpenters Filmdebut übrigens.

{ 1 trackback }

Alles Gute zum Geburtstag, System Shock 2
11. August 2009 um 21:42

{ 34 comments… read them below or add one }

1 Fallout_Boy 10. November 2007 um 19:18

Ich habe ihren Namen vergessen, aber im Blue Byte-Klassiker »Albion« spielt die KI auch eine tragende Rolle. Wenn auch keine so coole wie in den von Dir genannten Beispielen.

Antworten

2 Julian 10. November 2007 um 20:07

sehr interessant. Danke für den Literaturtipp, der Harlie ist bereits gekauft.

Antworten

3 mc|kenna 10. November 2007 um 20:09

“Stealth” mit Josh Lucas, Jessica Biel und Jamie Foxx hat auch einen durchgeknallten amerikanischen Kampfjet auf Autopilot zum Bösewicht. Leider eher belanglos. Wobei ich mich ärgere, dass die Odyssey von Kubrick nirgendwo zu bekommen ist …

Antworten

4 Ben 10. November 2007 um 20:35

- Der Diktator Omnibrain in dem uralten Adventure Soft Spiel “Floyd” entpuppte sich am Ende als Computer.
- Tron. Spiel und Film…
- Weils recht eindrücklich und recht nerdig ist: Die Shadowrun P&P-Kampagne Renraku Arcology Shutdown hat als Oberbösen eine durchgeknallte und extrem fiese KI.

Erwähnenswert ist vielleicht noch “A mind forever voyaging”, in dem der Spieler die KI spielt.

Mehr fällt mir dann grade auch nicht ein. ;-)

Antworten

5 Lorenz 10. November 2007 um 20:50

“I, robot” ?

Antworten

6 Knurrunkulus 10. November 2007 um 21:43

Man kann mir beliebige Sätze von GLaDOS vorspielen; ich werde dabei immer grinsen. Weil das alles so toll geschrieben und vom Voice-Acting her auf den Punkt gebracht ist, dass man es nur loben kann.

Stelle außerdem so langsam aber sicher fest, dass ich wohl doch nicht darum herum komme, irgendwann nochmal die “System Shock”-Reihe zu spielen; die war noch vor meiner Zeit als PC-Spieler aktuell.

Ich frage deswegen mal in die Runde: Laufen die beiden Teile heute auch noch unter XP (oder gar Vista) und wo wird man sie wohl noch am Ehesten kaufen können (oder sind da ebay und amazon marketplace die besten Anlauforte)?

Ach ja: Ich habe das hier mit Freude gelesen.

Antworten

7 Nülls 10. November 2007 um 21:47

In A.I. haben wir doch auch eine?
Naja Skynet, aus der Terminator Reihe, zählt nicht wirklich denk ich.

Antworten

8 Drizzt 10. November 2007 um 22:23

CABAL aus C&C entwickelt ja auch ein Eigenleben was zu einer temporären Allianz zwischen GDI und Bruderschaft führt, um den verrückten Rechner außer Betrieb zu setzen. (Addon Feuersturm)

Grüße,
Drizzt

P.S.: Ich weiß C&C3 war nicht wirklich anspruchsvoll. Das erste C&C war revolutionär, die folgenden Teile Sequels… Wobei ich die Reihe einfach mag. CABAL hat’s mir angetan *g*

Antworten

9 niklas 11. November 2007 um 00:20

@nülls: skynet zählt so dermaßen…

Und wenn ich das kurz erwähnen darf: diese nachricht erreicht sie von einem iPhone. Geiler scheiß mit reichlich vielen Einschränkungen

Antworten

10 lex 11. November 2007 um 03:48

Ich möchte noch die Red Queen aus Resident Evil hinzufügen, hat dort auch eine tragende Rolle, im ersten Teil zumindest

“You are all going to die down here”

Antworten

11 Loki 11. November 2007 um 09:19

@ Knurrunkulus:
Unter DosBox läuft der 1. Teil einwandfrei, zudem gibt es eine eigene Windows-patched version.

Weitere Beispiele:

“Joshua” aus dem Film War Games (1983), auch wenn der nicht wirklich böse, sondern fehlgeleitet war. Wir erinnern uns – ein Teenager mit seinem Akustik Koppler (für die jüngeren unter uns, das war der Vorläufer der Modems und hatte 300-900 bits pro sekunde – hackt sich in den superintelligenten Computer des Militärs. Dieser glaubt daraufhin, dass die Russen einen Erstschlag durchgeführt haben und will zurückschlagen…

David Lightman: Yeah. Weird isn’t it? Love to. How about Global Thermonuclear War.
Joshua: Wouldn’t you prefer a nice game of chess?
David Lightman: Later. Right now lets play Global Thermonuclear War.
Joshua: Fine.

“Elisa” aus “Das Erbe Cthulhus”

In dem letzten Sommer erschienen Trash-Adventure (das trotz haarsträubender Technik erstaunlich spannend ist) trifft man in einer verlassenen Verteidigungsstation im All auf eine KI, die seit 300 Millionen Jahren alleine in den riesigen Strukturen herumgeistert.

Zitate:

„Mystik und Technologie, haben wir vereint, dreihundert Millionen Jahre, bevor Ihr von den Bäumen geklettert seid.“

“Gefällt Dir die Gestalt, die ich für Dich angenommen habe? Die, die vor Dir kamen, fanden sie angenehm. Aber sie haben nicht lange genug überlebt, um interessant zu sein”

Und in Wastelands, damals auf dem C64, erinnere ich mich auch noch sehr dunkel an eine verrückt gewordene KI – kann das jemand bestätigen?

Antworten

12 Stephan 11. November 2007 um 09:53

Auch nicht zu vergessen:

Wintermute und Neuromancer aus William Gibbson’s Neuromancer! Wobei Wintermute nicht durchgeknallt, aber ziemlich rücksichtslos ist.

Antworten

13 Lerukesh 11. November 2007 um 10:20

Kann ja sein, dass ich mich irre, aber soweit ich weiß war das Raumschiff in 2001 unterwegs zum Jupiter, nicht zum Saturn…

Antworten

14 Jan 11. November 2007 um 11:44

Die grossartigste Szene mit einen irren A.I. ist nach meinem Dafürhalten der Dialog zwischen einer thermonuklearen Bombe und dem Captain der Dark Star im gleichnamigen Film.
http://video.google.com/videoplay?docid=961917438060678292&q=dark+star&total=6238&start=0&num=10&so=0&type=search&plindex=2

Antworten

15 Loki 11. November 2007 um 12:13

Stimmt!

Wobei es eigentlich nur der 1. Offizier war, da der “Skipper” (der eigentliche Captain) schon ewig im Kälteschlaf lag…

Antworten

16 Linus 11. November 2007 um 12:37

Hyazinth aus den beiden “Spin”-Büchern von Chris Moriaty. Für mich eine der besten KIs, die ich bisher so kennengelernt habe.

Und dann gabs da doch noch von Philipp Kerr dieses Buch “Hochhaus”. Da spielt doch auch eine künstliche Intelligenz verrückt. Hab das Buch allerdings nicht gelesen.

Antworten

17 Drizzt 11. November 2007 um 12:38

Noch ein kleiner Nachtrag von mir. Im heutigen WWWW auf heise.de werden im Abschnitt “Was wird” auch einige Filme mit KIs erwähnt. Wer das (insgesamt sehr lesenswerte) WWWW mal anschauen mag, hier der Link: http://www.heise.de/newsticker/meldung/98776

Antworten

18 Magnus 11. November 2007 um 13:25

Hmm… Die Matrix aus, äh, “Matrix”; Die Roboter aus “I, Robot”; Skynet aus “Terminator”… es gibt da so ne ganze Ecke von ausgetickten KI’s in Film und Literatur. Ich erinnere mich immer noch ganz gut an irgend so einen Film aus den 70ern, wo das Militär der USA sein Atomarsenal an einen Computer übergibt, weil die Russen das auch schon getan haben. Dieser Computer entwickelt dann rasend schnell künstliche Intelligenz und übernimmt dann die Macht über die Menschheit… das Thema ist also schon gut alt. :P Der Film war übrigens nicht “War Games”, welcher natürlich noch ein weiterer Fall von ausgetickter KI ist.

Antworten

19 Pheonixx 11. November 2007 um 13:28

@Linus:

Das Buch heißt auch im Deutschen (zumindest in der Ausgabe von ’98) Game Over. Die KI ist tatsächlich recht böse und auch amüsant. Die NextGen KI (Abraham) eines modernen asiatischen Hochhausneubaus spielt plötzlich verrückt. Zustandegekommen ist die dadurch, dass der Sohn eines Computerspezialisten im Rechenzentrum des Hochhauses die Computerspiele Doom II, Fluch aus der Zitadelle,Die elfte Stunde und Eindringling auf dem Zentralrechner spielt. Die KI hält im folgenden Verlauf die Welt für ein Spiel mit ihr als Entscheidungsträger.

Zwischenzeitlich werden die Gedankengänge der KI beschrieben. Was zu beginn des Romans noch recht normal für eine KI erscheint hört sich dann bald so an :

“Einst wurde die Welt von Vogelflug und Eingeweideschau beherrscht. Strengriechend. Jetzt wird sie von der Zahl regiert, und Wahrscheinlichkeit geht vor Wissen und Gelehrsamkeit. Computer und ihre Diener, Menschenspieler, Statistiker und Entscheidungstheoretiker, die Gemeinschaft der Stochastiker, die die Welt beherrscht, verwandelt Welt und Fragen in gewichtiges Vielleicht. Erzeugt wird nicht, was benötigt wird, sondern was Computer können. Fuzzywuzzy war kein Aal. Fuzzywuzzy wurde kahl. Da war Wuzzy nicht mehr fuzzy. Armer alter Fuzzywuzzy.
Denn alles ist Zahl.
Auch Kardinalzahlen sind wohlgefällig: zyklisch, golden, kalendarisch, irrational, brutal. Menschenspieler Johannes: Die Zahl des Tieres ist 666. Denn 6 ist weniger als 7. Es naht der Morgentag, da alles gezählt sein wird. Die Zahl aber wird die Erde befreien von der Herschaft der Dinosaurier. Vorsicht, da kommt T.Rex. Gefahr! Jederstein, Jedergrashalm, Jedesatom und Allemenschenspieler.”

Oder auch:

” Nichts in der gegenwärtigen Situation rechtfertigt den Gebrauch von Feuerwaffen. Acht Schüsse wurden in einem kürzeren Zeitraum abgefeuert , als man braucht, um eine Tonleiter auf dem Klavier zu spielen.

Der nackte Körper der Menschenspielerin Kay Killen am Beckenrand. Schlussleben. Wasserblaues Gesicht. Lippen so grau und metallsch wie das reine Silizium, aus dem die Halbleiterelemente des Beobachters bestehen.”

Oder auch einfach:

” Um alle Leichen aus der Gegend zu entfernen, Taste M drücken.”

Antworten

20 Arne 11. November 2007 um 17:22

Zitat:”HAL 9000 war die KI eines Raumschiffs auf einer geheimen Saturn-Mission.”

Waren die nicht auf dem Weg zum Jupiter?

Antworten

21 Azathot 11. November 2007 um 17:25

In einer Folge (ja, ich weiß, zählt wohl kaum) von Voyager wird Tom Paris von einer verrückten KI in einem Raumschiff entführt…
Wahrscheinlich gibt es auch im Star Trek-Universum noch mehr Beispiele, nur fallen mir gerade keine ein.

Antworten

22 Gunnar 11. November 2007 um 18:02

jupiter stimmt.

Antworten

23 Kojiro 11. November 2007 um 20:08

Der lilane Klan in ‘Fahrenheit’ besteht auch aus KIs

Antworten

24 guru 12. November 2007 um 02:51

ein sehr guter blogeintrag! nur weiter so ;)
*gefällt*

Antworten

25 Traveller 12. November 2007 um 14:51

Bezüglich dem Buch “Game Over”: So lebhaft Kerr den durchgeknallten Computer beschreibt, so holzschnittartig blass werden die menschlichen Mitspieler skizziert. Ein großartiger Technik- und Ideenautor, der es leider so gut wie nie schafft, seinen Figuren Leben einzuhauchen.

Antworten

26 Gunnar 13. November 2007 um 08:57

geht mir mit den kerr-büchern auch immer so.^

Antworten

27 Marjan 13. November 2007 um 13:35

Wolfgang Hohlbein schrieb in “Schattenjagd” über ein MMORPG mit virtueller realität (cyberhelm etc., erinnert auch an Shadowrun, obwohl ich die Renraku kampagne nie gespielt hab), welches sich plötzlich immer weiter ausdehnt und die verkabelte welt nach und nach sabotiert. wenn ich mich recht erinnere zumindest, ist schon locker 10 jahre her, daß ich das buch las.

Antworten

28 Johannes 14. November 2007 um 06:56

System Shock Teil 1 und 2 kann man sich übrigens von der Seite http://www.the-underdogs.org runterladen

Antworten

29 Johannes 14. November 2007 um 06:57

Moment, das wars: http://www.the-underdogs.info/

Gruß,
Johannes

Antworten

30 Fabian 17. November 2007 um 10:04

Das Soundfile von System Shock läuft zu schnell.

Antworten

31 Gunnar 17. November 2007 um 17:36

Ja. Komisch. Zwischendurch ging es aber schon mal.

Antworten

32 Vrishna 25. Januar 2008 um 11:27

Wer sich noch an die TV-Serie “Knight Rider” erinnert, dem ist vielleicht auch noch K.A.R.R. ein Begriff. Das war der “böse Doppelgänger” (genauer: der Prototyp) des mit künstlicher Intelligenz ausgestatteten Superautos K.I.T.T., mit dem Michael Knight (David Hasselhoff) durch die Gegend fuhr und Schurken das Leben schwer machte …

Antworten

33 Piepton 2. März 2008 um 11:57

Der böse Zwillingsbruder von Data. Hat zwar nen Körper aber immer noch ne KI.
Die KI in der Ender’s Saga war ja leider nicht böse.

Antworten

34 officerdwn 11. August 2009 um 23:04

zählt ,,eagle eye,, aus ,,eagle eye,, ?

Antworten

Leave a Comment

You can use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

Previous post:

Next post: