<\/p>\n
Valie Djordjevic Stellen Sie sich vor, Sie sitzen in einem geschlossenen Raum. Durch den T\u00fcrschlitz werden Ihnen Zettelchen, auf denen chinesische Schriftzeichen stehen, zugesteckt. Gehen wir davon aus, dass Sie selbst kein Wort Chinesisch sprechen. Aber im Zimmer gibt es Handb\u00fccher, Regeln und Anweisungen, mit denen Sie die Zeichen verarbeiten k\u00f6nnen und daraus passende Antworten erzeugen. Da Sie kein Wort Chinesisch k\u00f6nnen, m\u00fcssen sich bei Ihren Antworten komplett auf die Anweisungen verlassen und ihnen Schritt f\u00fcr Schritt folgen. Sie schreiben also die entsprechenden chinesischen Zeichen auf den Zettel und geben sie durch den Schlitz wieder heraus. Sie machen nichts anderes als ein Computer tun w\u00fcrde (nat\u00fcrlich sehr viel langsamer): Sie verarbeiten einen Input anhand von vorher festgelegten Algorithmen und geben das Ergebnis aus.<\/p>\n Stellen wir uns weiter vor, dass vor der T\u00fcr ein chinesischer Muttersprachler steht, der die Zettel liest. Aufgrund der Zettel hat er den Eindruck, dass Sie die Sprache beherrschen. Sie wissen aber, dass Sie keine Ahnung haben, was Sie da \u00bbbeantwortet\u00ab haben.<\/p>\n Dieses Gedankenexperiment ist unter dem Namen \u00bbDas chinesische Zimmer\u00ab ein wichtiger Bezugspunkt f\u00fcr die Diskussion um k\u00fcnstliche Intelligenz (KI). Ausgedacht hat es sich der Sprachphilosoph John Searle. Er wollte damit zeigen, dass das Beherrschen und Befolgen von Regeln noch kein Verst\u00e4ndnis – weder des Inputs noch des Outputs – beinhaltet. Damit stellt er sich denjenigen entgegen, die glauben, dass eine starke k\u00fcnstliche Intelligenz prinzipiell m\u00f6glich ist. F\u00fcr Searle ist echte Intelligenz immer mit Bewusstsein und Intentionalit\u00e4t verbunden, etwas, was mehr ist als Komplexit\u00e4t und Geschwindigkeit von Prozessoren.<\/p>\n Heutige intelligente Systeme fallen alle unter die sogenannte schwache k\u00fcnstliche Intelligenz – sie sind gut darin, eine Aufgabe zu erledigen: Die Vertreter der starken KI glauben, dass wir nicht mehr weit davon entfernt sind, dass aus der schwachen KI eine starke wird, wenn man Der Turing-Test im Chinesischen Zimmer<\/strong><\/p>\n Die Geschichte vom chinesischen Zimmer ist dabei eine Variante des Turing-Tests. Man kommt an ihm nicht vorbei, wenn man sich mit KI besch\u00e4ftigt. Turing dachte dar\u00fcber nach, wie man feststellen kann, ob eine Maschine denken kann. Wir erinnern uns: In einem Zimmer sitzt ein Mensch und unterh\u00e4lt sich mit zwei unsichtbaren Gegen\u00fcbern \u00fcber eine Tastatur. Einer ist ein Mensch und der andere ein Computer. Nur: wer ist was? Der Turing-Test gilt als bestanden, wenn der Computer bei einer f\u00fcnfmin\u00fctigen Unterhaltung mehr als 30 Prozent der Tester t\u00e4uschen kann. Bisher ist noch keiner Maschine gelungen, den Turing-Test zu bestehen. Die Ausgangsfrage \u00bbKann eine Maschine denken?\u00ab ist noch nicht beantwortet.<\/p>\n Im Gegensatz zu Searle machte es f\u00fcr Turing keinen Unterschied, ob die Maschine \u00bbwirklich\u00ab intelligent ist oder ob sie es nur meisterhaft vorspielen kann. Seiner Meinung nach ist diese Unterscheidung bedeutungslos, da wir nicht definieren k\u00f6nnen, was Denken \u00fcberhaupt ist. F\u00fcr Searle w\u00fcrde eine Maschine, die den Turing-Test besteht, einfach nur besonders gut programmiert sein. Es ist seiner Meinung nicht das Gleiche, ob wir vorgeben zu denken oder wirklich denken. Im ersten Falle folgen wir einem Programm, im zweiten k\u00f6nnen wir Chinesisch.<\/p>\n Sprachverarbeitung im gro\u00dfen Stil<\/strong><\/p>\n Sprache steht im Mittelpunkt, wenn wir \u00fcber k\u00fcnstliche Intelligenz (KI) reden. Als Mittel der Kommunikation und als Medium des Denkens ist sie zentral f\u00fcr unser Selbstverst\u00e4ndnis als Menschen. Durch Sprache machen wir uns ein Bild von der Welt und setzen uns in Beziehung zu ihr. Wir k\u00f6nnen mit anderen zusammenarbeiten und uns koordinieren. Dazu dienen nicht nur nat\u00fcrliche Sprache, sondern auch formalisierte, k\u00fcnstliche Sprachen, wie Programmiersprachen.<\/p>\n In den letzten Jahren treten immer mehr scheinbar intelligente Anwendungen in unseren Alltag. Bei vielen sind wir uns gar nicht bewusst, dass sie unter k\u00fcnstliche Intelligenz fallen: der Google-Suchalgorithmus zum Beispiel. Die meisten von uns benutzen ihn t\u00e4glich dutzendfach. Mithilfe von mehr als 200 Kriterien sortiert Google die Suchergebnisse bei einer Stichwortsuche. Mit Rankbrain ist auch ein selbstlernender Algorithmus dabei, aber schon die Auswahl anhand von Kontext, vorherigen Suchen, Standort, semantischer Volltextanalyse, Relevanz der Domain, Markenautoritit\u00e4t, Linkqualit\u00e4t und -quantit\u00e4t ist software-technisch auf h\u00f6chstem Niveau. Alle Internetservices von Google \u2013 Search, Maps, Books, Images und wie sie immer hei\u00dfen \u2013 sind mehr als 2 Milliarden Zeilen Code[1]<\/a>, gespeichert alle in einem Repository[2]<\/a>. Darin liegt die Technik, die entscheidet, was die relevanteste Antwort bei einer Suche nach – zum Beispiel \u2013 \u00bbchinesisches Zimmer\u00ab ist: ein Artikel \u00fcber Innenarchitektur in Peking oder die oben angef\u00fchrte Erkl\u00e4rung.<\/p>\n Was Google mit seiner Suche macht \u2013 aber auch Facebook mit seinem Newsfeed oder Apple mit Siri \u2013 ist Verarbeitung von Sprache in einer bis vor kurzem unvorstellbaren Gr\u00f6\u00dfenordnung. Denn um nichts anderes geht es hier: Webseiten \u2013 geschriebene Sprache \u2013 wird analysiert, die Anfrage bearbeitet, die Antwort ausgespuckt. Ein riesiges chinesisches Zimmer.<\/p>\n Ob der Google-Algorithmus wirklich versteht, was ich meine, wenn ich nach etwas suche, ist mir als Nutzer im Prinzip egal, solange die Antwort f\u00fcr meine Suche relevant ist. In \u00e4hnlicher Weise verarbeitet Facebook die Links, Likes, Postings, Bilder unserer engen und nicht so engen Freunde. Es bietet uns t\u00e4glich eine Auswahl von Nachrichten und Feel-Good-Posts (was zum Lachen, was zum Schaudern, was zum Gutf\u00fchlen), die dem entsprechen, was wir vorher schon gut fanden und die uns auf der Seite halten. Auch Big-Data-Analysen von Nutzerverhalten oder Programme zur Maschinen\u00fcbersetzung machen nichts anderes als Textverarbeitung, nur in einer Geschwindigkeit, die Menschen nicht erreichen k\u00f6nnen. Daraus entstehen Effekte, bei denen Quantit\u00e4t in Qualit\u00e4t umschl\u00e4gt. Wir sollten nicht vergessen: Siri, Alexa und wie sie alle hei\u00dfen, sind heute (noch) nicht intelligent. Sie haben kein Bewusstsein und keinen Willen au\u00dferhalb dessen, was ihnen von ihren Programmierern vorgegeben wird. Die Technik ist noch ein ganzes St\u00fcck davon entfernt \u2013 trotz des Hypes um Deep Learning und neuronale Netze. Wie weit entfernt wir von der allgemeinen k\u00fcnstlichen Intelligenz sind \u2013 dar\u00fcber streiten sich die AI-Experten. Die einen sagen, dass die k\u00fcnstliche Superintelligenz kurz bevorsteht. Ray Kurzweil, der bekannteste Vertreter der sogenannten Singularit\u00e4t, dem Zeitpunkt, wo Maschinen intelligent werden und nichts mehr ist, wie es war, spricht von 2025, andere meinen 2040 w\u00e4re es so weit. Und John Searle glaubt gar nicht dran[3]<\/a>. Seiner Meinung nach wird es den Maschinen immer an dem letzten Qu\u00e4ntchen fehlen – dem Bewusstsein.<\/p>\n Facebook-Bots erfinden eine neue Sprache<\/strong><\/p>\n Ist Bewusstsein das Resultat von ausreichender Komplexit\u00e4t? Entsteht es automatisch, wenn die Rechner, ihre Hard- und Software, schnell und vernetzt genug geworden sind? Das sind Fragen, auf die wir noch keine Antwort haben. Dass Software aber kreativ werden kann, ist schon l\u00e4nger bekannt: Von Twitter-Bots, die mit ausreichend gro\u00dfen Text-Datenbanken gef\u00fcttert werden und daraus Regeln f\u00fcr das Schreiben von Gedichten ableiten \u2013 und das dann mit Erfolg tun – bis zu den Facebook-Bots, die vor kurzem durch die Presse gingen.<\/p>\n Facebooks Artificial Intelligence Research Team (FAIR) stellte fest, dass Chatbots angefangen haben, die Regeln der englischen Grammatik zu missachten und in einer eigenen Sprache zu sprechen. Die Effekte traten w\u00e4hrend ihres Trainings auf, damit sie sp\u00e4ter selbstst\u00e4ndig mit Menschen Verhandlungen f\u00fchren k\u00f6nnten.<\/p>\n Ein Dialog sah so aus:<\/p>\n Bob: \u00bbI can can I I everything else.\u00ab Die Wiederholungen \u00fcbernahmen semantische Funktionen \u2013 im Laufe der Zeit wurden die Ver\u00e4nderungen der Sprache so gro\u00df, dass die Programmierer auch nichts mehr verstanden. Dieses Ph\u00e4nomen ist reproduzierbar \u2013 auch andere Chatbots zeigten dasselbe Verhalten.<\/p>\n Viele Journalisten berichteten dar\u00fcber unter dem Tenor \u00bbDie Roboter erfinden eine eigene Sprache und verschw\u00f6ren sich gegen die Menschheit\u00ab. Sie folgten einem Topos, den unz\u00e4hlige Science-Fiction-Filme, von Terminator<\/em> bis Westworld<\/em>, in das kollektive Bewusstsein der Menschheit installiert haben. Die eigentliche Erkl\u00e4rung ist einfacher: Die Programmierer erkl\u00e4rten, dass es im Code keine Anweisung daf\u00fcr gab, bei verst\u00e4ndlichem Englisch zu bleiben. Deshalb fingen die Chatbots an, eigene K\u00fcrzel und Codes zu entwickeln, um ihre Aufgabe, das Verhandeln, besser zu l\u00f6sen.<\/p>\n<\/div>\n<\/div>\n<\/div>\n <\/a>[1] Das menschliche Genom hat 3300 Zeilen Code \u2013 wenn man es in Zeilen schreiben w\u00fcrde. Vgl. Jeff Desjardins: How Many Millions of Lines of Code Does It Take?, Visual Capitalist, 8.2.2017, http:\/\/www.visualcapitalist.com\/millions-lines-of-code\/<\/a>. <\/p>","protected":false},"excerpt":{"rendered":" Valie Djordjevic erschienen in der der Versorgerin Wovon sprechen wir, wenn wir von k\u00fcnstlicher Intelligenz sprechen? Stellen Sie sich vor, Sie sitzen in einem geschlossenen Raum. Durch den T\u00fcrschlitz werden Ihnen Zettelchen, auf denen chinesische Schriftzeichen stehen, zugesteckt. Gehen wir davon aus, dass Sie selbst kein Wort Chinesisch sprechen. Aber im Zimmer gibt es Handb\u00fccher, […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"categories":[2],"tags":[],"class_list":["post-151","post","type-post","status-publish","format-standard","hentry","category-social-bots-ai"],"_links":{"self":[{"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/posts\/151","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/comments?post=151"}],"version-history":[{"count":2,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/posts\/151\/revisions"}],"predecessor-version":[{"id":246,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/posts\/151\/revisions\/246"}],"wp:attachment":[{"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/media?parent=151"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/categories?post=151"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/research.radical-openness.org\/2017\/wp-json\/wp\/v2\/tags?post=151"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\nerschienen in der der Versorgerin <\/a><\/p>\nWovon sprechen wir, wenn wir von k\u00fcnstlicher Intelligenz sprechen?<\/h2>\n<\/div>\n<\/div>\n
\ndas Internet durchsuchen und passende Ergebnisse ausgeben, Schach spielen, Zusammenh\u00e4nge in gro\u00dfen Textkorpora finden und zum Beispiel aus medizinischen Datenbanken Korrelationen zwischen Krankheiten und Verhaltensweisen herausbekommen und neue Behandlungsmethoden vorschlagen.<\/p>\n
\ndie technischen Entwicklungen von Hard- und Software in die Zukunft projiziert. Bewusstsein ist dabei ein Nebenprodukt von Komplexit\u00e4t und wird automatisch auftauchen.<\/p>\n
\nDie digitalen Assistentinnen Siri (Apple) und Alexa (Amazon) versuchen sich daran, gesprochene Sprache zu verstehen und all unsere W\u00fcnsche zu erf\u00fcllen. Im Film Her von Spike Jonze verliebt sich der Protagonist Theodore, der f\u00fcr Geld Briefe schreibt f\u00fcr Leute, die es nicht so mit Worten haben, in sein Betriebssystem (cum Sprachassistentin) Samantha, die deutlich an Siri angelehnt ist. Die Liebe der beiden (denn sie wird erwidert) beruht rein auf dem sprachlichen Austausch. Sein Beruf ist wesentlich f\u00fcr das Auftauchen dieser Liebe zwischen Mensch und Maschine \u2013 jedenfalls so lange, bis sie ihn verl\u00e4sst, weil sie mit anderen Betriebssystemen die materielle Ebene des Seins aufgibt.<\/p>\n
\nAlice: \u00bbBalls have zero to me to me to me to me to me to me to me to me to.\u00ab<\/p>\n
\n<\/a>[2] Wie Google diesen riesigen Haufen Code managt und koordiniert, hat Cade Metz f\u00fcr Wired beschrieben. Cade Metz: Google Is 2 Billion Lines of Code \u2014 And It\u2019s All in One Place, Wired, 16.9.2915, https:\/\/www.wired.com\/2015\/09\/google-2-billion-lines-codeand-one-place\/<\/a>
\n<\/a>[3] Einen guten \u00dcberblick \u00fcber den Stand der KI-Diskussion findet man im Blog Waitbutwhy. Der Autor Tim Urban nimmt eher einen optimistischen Standpunkt ein. Tim Urban: The AI Revolution: The Road to Superintelligence, Wait but why, 22.1.2015, https:\/\/waitbutwhy.com\/2015\/01\/artificial-intelligence-revolution-1.html<\/a>
\n<\/a>[4] Fact Check: Did Facebook Shut Down an AI Experiment Because Chatbots Developed Their Own Language?, Snopes, 1.8.2017, http:\/\/www.snopes.com\/facebook-ai-developed-own-language\/<\/a><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n