Noam Chomsky: Wo ist künstliche Intelligenz in die falsche Richtung gegangen?

Kommentar des Übersetzers: Ein ausführliches Interview mit dem legendären Linguisten, das vor 6 Jahren veröffentlicht wurde, aber nicht an Relevanz verloren hat. Noam Chomsky - „moderner Einstein“, wie er genannt wird, teilt seine Gedanken über die Struktur des menschlichen Denkens und der menschlichen Sprache, die künstliche Intelligenz und den Stand der modernen Wissenschaften. Neulich wurde er 90 Jahre alt, und dies scheint ein guter Grund für die Veröffentlichung eines Artikels zu sein. Das Interview wird von einem jungen Kognitionswissenschaftler, Jarden Katz, geführt. Er selbst kennt sich mit dem Thema gut aus, daher ist das Gespräch sehr informativ und die Fragen sind ebenso interessant wie die Antworten.


Wenn wir uns das Ziel setzen, eine Liste der größten und unerreichbarsten intellektuellen Aufgaben zusammenzustellen, dann wäre die Aufgabe, uns selbst zu „entschlüsseln“ - die innere Struktur unseres Geistes und Gehirns zu verstehen und wie die Architektur dieser Elemente in unserem Genom kodiert wird - definitiv ganz oben. Verschiedene Wissensbereiche, die diese Aufgabe übernommen haben, von Philosophie und Psychologie über Informatik bis hin zu Neurowissenschaften, sind jedoch von Meinungsverschiedenheiten darüber überwältigt, welcher Ansatz der richtige ist.

1956 prägte der Informatiker John McCarthy den Begriff „künstliche Intelligenz“ (KI), um die Wissenschaft des Studierens des Geistes durch Rekonstruktion seiner Schlüsselattribute auf einem Computer zu beschreiben. Die Schaffung eines rationalen Systems unter Verwendung künstlicher Geräte anstelle unserer eigenen „Geräte“ in Form von Zellen und Geweben sollte ein Beispiel für ein umfassendes Verständnis sein und praktische Anwendungen in Form von intelligenten Geräten oder sogar Robotern beinhalten.

Einige von McCarthys Kollegen aus verwandten Disziplinen waren jedoch mehr daran interessiert, wie der Geist bei Menschen und anderen Tieren funktioniert. Noam Chomsky und seine Kollegen arbeiteten an dem, was später als kognitive Wissenschaft bekannt wurde - der Entdeckung der mentalen Repräsentationen und Regeln, die unseren kognitiven und mentalen Fähigkeiten zugrunde liegen. Chomsky und seine Kollegen haben das damals vorherrschende Behaviorismus-Paradigma, angeführt vom Harvard-Psychologen B.F. Skinner, bei dem das Verhalten von Tieren auf eine einfache Reihe von Assoziationen zwischen der Handlung und ihrer Konsequenz in Form von Ermutigung oder Bestrafung reduziert wurde. Die Mängel von Skinners Arbeit in der Psychologie wurden aus Chomskys kritischer Rezension von 1959 in seinem Buch Verbal Behaviour bekannt, in dem Skinner versuchte, sprachliche Fähigkeiten anhand von Verhaltensprinzipien zu erklären.

Skinners Ansatz betonte die Assoziationen zwischen dem Reiz und der Reaktion des Tieres - ein Ansatz, der leicht als empirische statistische Analyse dargestellt werden kann, die die Zukunft als Folge der Vergangenheit vorhersagt. Das Konzept von Chomskys Sprache konzentrierte sich dagegen auf die Komplexität der im Genom kodierten internen Repräsentationen und deren Entwicklung beim Erhalt von Daten in einem komplexen Computersystem, das nicht einfach in eine Reihe von Assoziationen zerlegt werden kann. Das verhaltensorientierte Prinzip der Assoziationen konnte den Reichtum des Sprachwissens, unseren unendlich kreativen Gebrauch davon oder warum Kinder es schnell aus den minimalen und verrauschten Daten beherrschen, die die Umgebung ihnen liefert, nicht erklären. "Sprachkompetenz", wie Chomsky es nannte, war Teil des genetischen Fonds des Körpers, wie das visuelle System, das Immunsystem und das Herz-Kreislauf-System, und wir sollten es genauso untersuchen wie andere, weltlichere biologische Systeme.

David Marr, ein Experte für Neurowissenschaften, Chomskys MIT-Kollege, definierte in seinem renommierten Buch Vision den allgemeinen Ansatz zur Untersuchung komplexer biologischer Systeme (wie des Gehirns), und Chomskys Analyse der Sprachkompetenz passt mehr oder weniger in diesen Ansatz. Laut Marr kann ein komplexes biologisches System auf drei verschiedenen Ebenen verstanden werden. Die erste Ebene ("Rechenebene") beschreibt die Ein- und Ausgabe des Systems, die die vom System ausgeführte Aufgabe bestimmen. Im Fall des visuellen Systems kann die Eingabe ein Bild sein, das auf unsere Netzhaut projiziert wird, und die Ausgabe kann die Identifizierung von Objekten im Bild durch unser Gehirn sein. Die zweite Ebene („algorithmische Ebene“) beschreibt das Verfahren, mit dem die Eingabe in eine Ausgabe umgewandelt wird, dh wie das Bild auf unserer Netzhaut verarbeitet werden kann, um die auf Rechenebene beschriebene Aufgabe zu erfüllen. Schließlich beschreibt die dritte Ebene („Implementierungsebene“), wie unsere biologischen Geräte aus Zellen das auf algorithmischer Ebene beschriebene Verfahren ausführen.

Der Ansatz von Chomsky und Marr, zu verstehen, wie unser Geist funktioniert, ist so weit wie möglich vom Behaviorismus entfernt. Hier liegt der Schwerpunkt auf der internen Struktur des Systems, die es ihm ermöglicht, die Aufgabe zu erledigen, und nicht auf der externen Assoziation zwischen dem früheren Verhalten des Systems und der Umgebung. Ziel ist es, in die „Black Box“ einzudringen, die das System steuert, und seine interne Struktur zu beschreiben, etwa wie ein Programmierer Ihnen das Prinzip eines gut entwickelten Softwareprodukts erklären und auch die Ausführung auf einem Heimcomputer anweisen kann.

Wie es heute allgemein anerkannt ist, ist die Geschichte der Kognitionswissenschaft die Geschichte des offensichtlichen Sieges von Chomskys Ansatz über das behaviouristische Paradigma von Skinner - ein Ereignis, das oft als "kognitive Revolution" bezeichnet wird, obwohl Chomsky selbst diesen Namen leugnet. Dies spiegelt genau die Situation in der Kognitionswissenschaft und Psychologie wider, aber in anderen verwandten Wissenschaften wird das Verhaltensdenken nicht sterben. Verhaltensexperimentelle Paradigmen und assoziative Erklärungen des Verhaltens von Tieren werden von Spezialisten auf dem Gebiet der Neurowissenschaften verwendet, deren Ziel es ist, die Neurobiologie des Verhaltens von Labortieren wie Nagetieren zu untersuchen, wobei der von Marr vorgeschlagene dreistufige Systemansatz nicht anwendbar ist.

Im Mai 2011 fand zu Ehren des 150-jährigen Bestehens des Massachusetts Institute of Technology das Brains, Minds and Machines Symposium statt, bei dem sich führende Informatiker, Psychologen und Neurowissenschaftler versammelten, um zu diskutieren vergangene und zukünftige künstliche Intelligenz und ihre Beziehung zur Neurowissenschaft.

Es wurde davon ausgegangen, dass das Treffen alle mit interdisziplinärer Begeisterung dazu inspirieren würde, die wissenschaftliche Frage wiederzubeleben, aus der das gesamte Gebiet der künstlichen Intelligenz hervorgegangen ist: Wie funktioniert der Geist? Wie hat unser Gehirn unsere kognitiven Fähigkeiten geschaffen und kann es jemals in einer Maschine verkörpert werden?

Noam Chomsky, der auf einem Symposium sprach, war nicht begeistert. Chomsky kritisierte das Gebiet der KI dafür, dass es einen dem Behaviorismus ähnlichen Ansatz nur in einer moderneren, rechnerisch komplexen Form verfolgte. Chomsky sagte, dass es unwahrscheinlich ist, dass wir uns auf statistische Techniken stützen, um nach Mustern in großen Datenmengen zu suchen, um die erklärenden Erkenntnisse zu erhalten, die wir von der Wissenschaft erwarten. Für Chomsky ist es unwahrscheinlich, dass die neue KI, die sich auf die Verwendung statistischer Trainingstechniken konzentriert, um Daten besser zu verarbeiten und darauf basierende Vorhersagen zu treffen, allgemeine Schlussfolgerungen über die Natur intelligenter Kreaturen oder die Funktionsweise des Denkens liefert.

Diese Kritik provozierte Chomskys detaillierte Antwort von Googles Forschungsdirektor und renommiertem KI-Forscher Peter Norwig, der die Verwendung statistischer Modelle befürwortete und argumentierte, dass neue KI-Methoden und die Definition des Fortschritts nicht so weit von dem entfernt sind, was geschieht und in anderen Wissenschaften.

Chomsky antwortete, dass ein statistischer Ansatz beispielsweise für eine nützliche Suchmaschine von praktischem Wert sein kann und mit schnellen Computern möglich ist, die große Datenmengen verarbeiten können. Aus wissenschaftlicher Sicht ist dieser Ansatz jedoch nach Ansicht von Chomsky unzureichend oder genauer gesagt oberflächlich. Wir haben dem Computer nicht beigebracht, zu verstehen, was der Ausdruck "Physiker Sir Isaac Newton" bedeutet, selbst wenn wir eine Suchmaschine erstellen können, die Benutzern, die diesen Ausdruck dort eingeben, plausible Ergebnisse liefert.

Es stellt sich heraus, dass Biologen auch versuchen, traditionellere biologische Systeme zu verstehen. Als die Computerrevolution den Weg für die Analyse großer Datenmengen ebnete, auf denen die gesamte "neue KI" beruht, hat die Revolution der Sequenzierung in der modernen Biologie blühende Felder der Genomik und Systembiologie hervorgebracht. Die Hochdurchsatzsequenzierung - eine Technik, mit der Millionen von DNA-Molekülen schnell und kostengünstig gelesen werden können - hat die Genomsequenzierung von einer teuren 10 Jahre alten Einrichtung zu einer für das Labor zugänglichen Routine gemacht. Anstatt einzelne isolierte Gene schmerzhaft zu untersuchen, können wir jetzt das Verhalten eines Systems von Genen beobachten, die in Zellen als Ganzes unter Hunderttausenden verschiedener Bedingungen wirken.

Die Revolution der Sequenzierung hat gerade erst begonnen, und es sind bereits zahlreiche Daten eingegangen, die Aufsehen erregen und neue vielversprechende Perspektiven für eine neue Therapie und Diagnose menschlicher Krankheiten eröffnen. Wenn beispielsweise eine konventionelle Medizin einer bestimmten Gruppe von Menschen nicht hilft, liegt die Antwort möglicherweise im Genom der Patienten, und es kann eine Besonderheit geben, die die Wirkung der Medizin verhindert. Wenn genügend Daten gesammelt wurden, um die relevanten Genommerkmale bei solchen Patienten zu vergleichen, und die Kontrollgruppen korrekt ausgewählt wurden, können neue angepasste Medikamente erscheinen, die uns zu so etwas wie „personalisierter Medizin“ führen. Es versteht sich, dass, wenn es ausreichend entwickelte statistische Werkzeuge und einen ausreichend großen Datensatz gibt, interessante Signale aus dem Rauschen gezogen werden können, das von großen und wenig untersuchten biologischen Systemen erzeugt wird.

Der Erfolg von Phänomenen wie der personalisierten Medizin und anderen Konsequenzen der Sequenzierungsrevolution und des systembiologischen Ansatzes basiert auf unserer Fähigkeit, mit dem zu arbeiten, was Chomsky „eine Masse von Rohdaten“ nennt - und dies stellt die Biologie in den Mittelpunkt der Diskussion, wie die in Psychologie und künstliche Intelligenz seit den 1960er Jahren.

Auch die Systembiologie stieß auf Skepsis. Der große Genetiker und Nobelpreisträger Sydney Brenner hat es einmal so definiert: „geringer Input, hoher Durchsatz, keine Output-Wissenschaft“ (in einer freien Übersetzung: „Es gibt viel Lärm aus dem Nichts und keine Wissenschaft, die auf den Ergebnissen basiert“). Brenner, ein Zeitgenosse von Chomsky, der auch an diesem KI-Symposium teilnahm, war skeptisch gegenüber neuen systemischen Ansätzen zum Verständnis des Gehirns. Brenner beschrieb einen populären systemischen Ansatz zur Abbildung von Gehirnkreisläufen namens Connectomics, der versucht, die Verbindungen aller Neuronen im Gehirn zu beschreiben (dh ein Diagramm darüber, wie einige Nervenzellen mit anderen verbunden sind), und nannte ihn eine „Form des Wahnsinns“.

Brenners witzige Angriffe auf die Systembiologie und verwandte Ansätze in den Neurowissenschaften sind nicht weit von Chomskys Kritik an der KI entfernt. Im Gegensatz zum Erscheinungsbild stehen Systembiologie und künstliche Intelligenz vor der gleichen grundlegenden Aufgabe des Reverse Engineering eines hochkomplexen Systems, dessen interne Struktur größtenteils ein Rätsel ist. Ja, sich entwickelnde Technologien liefern eine große Anzahl von Daten, die sich auf das System beziehen, von denen möglicherweise nur ein Teil relevant ist. Sollten wir uns auf leistungsfähige Rechenfunktionen und statistische Ansätze verlassen, um das Signal von Rauschen zu isolieren, oder müssen wir nach grundlegenderen Prinzipien suchen, die dem System zugrunde liegen, und seine Essenz erklären? Der Wunsch, mehr Daten zu sammeln, ist nicht aufzuhalten, obwohl nicht immer klar ist, in welche Theorie diese Daten passen können. Diese Diskussionen werfen die uralte Frage der Wissenschaftstheorie auf: Was macht eine wissenschaftliche Theorie oder Erklärung zufriedenstellend? Wie wird der Erfolg in der Wissenschaft bestimmt?

Wir saßen mit Noam Chomsky an einem Aprilnachmittag in einem ziemlich unordentlichen Chatraum und versteckten uns in einer geheimen Ecke des schwindelerregenden Gebäudes von Frank Gehrys MIT Architecture Center. Ich wollte Chomskys Kritik an künstlicher Intelligenz besser verstehen und warum sie sich seiner Meinung nach in die falsche Richtung bewegt. Ich wollte auch die Anwendung dieser Kritik auf andere wissenschaftliche Bereiche wie die Neurowissenschaften und die Systembiologie untersuchen, die alle mit der Aufgabe des Reverse Engineering komplexer Systeme arbeiten - und in denen sich Wissenschaftler häufig inmitten eines unendlich wachsenden Datenmeeres befinden. Ein Teil der Motivation für das Interview war, dass Chomsky heute selten nach Wissenschaft gefragt wird. Journalisten sind zu interessiert an seiner Meinung zur Außenpolitik der USA, des Nahen Ostens, der Obama-Regierung und anderer gewöhnlicher Themen. Ein weiterer Grund war, dass Chomsky zu dieser seltenen und besonderen Art von Intellektuellen gehört, die schnell aussterben. Seit der Veröffentlichung des berühmten Aufsatzes von Jesaja Berlin ist es zu einem beliebten Zeitvertreib in der akademischen Gemeinschaft geworden, verschiedene Denker und Wissenschaftler auf das Lisa-Hedgehog-Kontinuum zu setzen: Der Igel ist akribisch und spezialisiert und zielt auf konsequenten Fortschritt in einem klar definierten Rahmen gegen Lisa ab, schneller, angetrieben von Ideen Ein Denker, der von Frage zu Frage springt, den Umfang des Themenbereichs ignoriert und gegebenenfalls seine Fähigkeiten anwendet. Chomsky ist etwas Besonderes, weil er diese Unterscheidung in ein altes und unnötiges Klischee verwandelt. Bei Chomsky geht es nicht um Tiefe, sondern um Flexibilität oder Breite der Berichterstattung, obwohl er seine gesamte frühe wissenschaftliche Karriere größtenteils dem Studium bestimmter Themen der Linguistik und der Kognitionswissenschaften gewidmet hat. Chomskys Arbeit hatte neben seiner eigenen einen großen Einfluss auf verschiedene Bereiche, einschließlich Informatik und Philosophie, und er scheut sich nicht, den Einfluss dieser Ideen zu diskutieren und zu kritisieren, was ihn für menschliche Interviews besonders interessant macht.

Ich möchte mit einer sehr einfachen Frage beginnen. Zu Beginn der künstlichen Intelligenz waren die Menschen optimistisch über die Fortschritte in diesem Bereich, aber es stellte sich anders heraus. Warum ist die Aufgabe so schwierig? Wenn Sie Experten auf dem Gebiet der Neurowissenschaften fragen, warum es so schwierig ist, das Gehirn zu verstehen, geben sie Ihnen völlig unbefriedigende intellektuelle Antworten: Es gibt Milliarden von Zellen im Gehirn, und wir können nicht alle lesen und so weiter.

Chomsky: Da ist etwas dran. Wenn Sie sich die Entwicklung der Wissenschaft ansehen, sind alle Wissenschaften wie ein Kontinuum, aber sie sind in separate Bereiche unterteilt. Den größten Fortschritt erzielen die Wissenschaften, die die einfachsten Systeme untersuchen. Nehmen wir zum Beispiel die Physik - es gibt enorme Fortschritte. Einer der Gründe ist jedoch, dass Physiker einen Vorteil haben, der in keiner anderen Wissenschaft zu finden ist. Wenn etwas zu kompliziert wird, geben sie es an jemand anderen weiter.

Zum Beispiel Chemiker?

Chomsky: Wenn das Molekül zu groß ist, geben Sie es an Chemiker weiter. Chemiker geben es Biologen, wenn ihnen das Molekül zu groß ist oder das System zu groß wird. Und wenn es ihnen zu groß ist, geben sie es Psychologen und am Ende liegt es in den Händen von Literaturkritikern und so weiter. Also ist nicht alles, was in den Neurowissenschaften gesagt wird, völlig falsch.

Aber vielleicht - und aus meiner Sicht ist es sehr wahrscheinlich, dass Experten auf dem Gebiet der Neurowissenschaften dies nicht mögen - ist die Neurowissenschaft in den letzten paar hundert Jahren auf dem falschen Weg. Es gibt ein ziemlich neues Buch des sehr guten neurowissenschaftlichen Kognitionswissenschaftlers Randy Gallistel zusammen mit Adam King ( „Gedächtnis und das rechnergestützte Gehirn: Warum die Kognitionswissenschaft die Neurowissenschaften transformieren wird“ - ca. übersetzt ), in dem er - meiner Meinung nach glaubwürdig - diese Neurowissenschaften behauptet entwickelt, von Assoziationen und verwandten Vorstellungen darüber, wie Menschen und Tiere angeordnet sind, mitgerissen werden. Infolgedessen suchten sie nach Phänomenen mit den Eigenschaften der assoziativen Psychologie.

Wie ist die Duktilität des Hobb? [Donald Hebb zugeschriebene Theorie: Assoziationen zwischen einem Umweltreiz und einer Reaktion auf einen Reiz können durch Verbesserung der synaptischen Verbindungen zwischen Neuronen kodiert werden - ca. Ed.]

Chomsky: Ja, als Stärkung der synaptischen Verbindungen. Gallistel hat jahrelang erklärt: Wenn Sie das Gehirn richtig studieren wollen, müssen Sie wie Marr zuerst fragen, welche Aufgaben er ausführt. Daher interessiert er sich hauptsächlich für Insekten. Wenn Sie also beispielsweise die Neurologie einer Ameise untersuchen möchten, fragen Sie, was die Ameise tut? Es stellt sich heraus, dass Ameisen ziemlich komplizierte Dinge tun, zum Beispiel einen Weg bauen. Schauen Sie sich die Bienen an: Ihre Navigation erfordert recht komplexe Berechnungen, einschließlich des Sonnenstandes und so weiter. Aber womit argumentiert er im Allgemeinen: Wenn Sie die kognitiven Fähigkeiten eines Tieres oder einer Person nutzen, sind dies Computersysteme. Sie müssen sich also die rechnerischen Atomeinheiten ansehen. Nehmen Sie eine Turing-Maschine, dies ist die einfachste Form der Berechnung. Sie müssen Atome finden, die die Eigenschaften "Lesen", "Schreiben" und "Adresse" haben. Dies sind die minimalen Recheneinheiten, daher müssen Sie sie im Gehirn suchen. Sie werden sie nie finden, wenn Sie nach erhöhten synaptischen Verbindungen oder Feldeigenschaften usw. suchen. Sie müssen damit beginnen: Sehen Sie, was bereits vorhanden ist und was funktioniert, und Sie können es von der höchsten Ebene in der Marra-Hierarchie aus sehen.

Das ist richtig, aber die meisten Neurowissenschaftler sitzen nicht und beschreiben nicht die Eingaben und Schlussfolgerungen des Phänomens, das sie untersuchen. Stattdessen platzieren sie die Maus in einer Laborlernaufgabe und zeichnen so viele Neuronen wie möglich auf oder finden heraus, ob Gen X zum Lernen der Aufgabe benötigt wird, und so weiter. Aussagen dieser Art folgen aus ihren Experimenten.

Chomsky: Das ist so ...

Gibt es einen konzeptionellen Fehler?

Chomsky: Nun, Sie können nützliche Informationen erhalten. Aber wenn es wirklich eine Art Berechnung mit atomaren Einheiten gibt, werden Sie sie auf diese Weise nicht finden. Es geht darum, wie man unter einer anderen Lampe nach verlorenen Schlüsseln sucht, nur weil es dort leichter ist (ein Hinweis auf einen bekannten Witz - ca. übersetzt ). Dies ist ein umstrittenes Thema ... Ich glaube nicht, dass Gallistels Position von Neurobiologen weithin akzeptiert wurde, aber dies ist eine plausible Position, und sie wurde im Geiste von Marrs Analyse gemacht.Wenn Sie also Vision studieren, fragen Sie zuerst, welche Art von Computeraufgaben das System löst. Dann suchen Sie nach einem Algorithmus, der diese Berechnungen durchführen kann, und am Ende suchen Sie nach Mechanismen, mit denen der Algorithmus funktionieren kann. Andernfalls finden Sie möglicherweise nie etwas. Es gibt viele Beispiele dafür, sogar in den exakten Wissenschaften und mit Sicherheit in den Geisteswissenschaften. Die Leute versuchen zu lernen, was sie lernen können - ich meine, es sieht vernünftig aus. Sie haben bestimmte experimentelle Techniken, Sie haben ein gewisses Maß an Verständnis, Sie versuchen, die Grenzen des Möglichen zu überschreiten - und das ist gut, ich kritisiere nicht, die Leute tun, was sie können. Andererseits wäre es schön zu wissen, ob Sie sich in die richtige Richtung bewegen. Und es kann vorkommen, dass, wenn wir den Standpunkt von Marra-Gallistel als Grundlage nehmen,Mit denen ich persönlich sympathisiere, werden Sie anders arbeiten, nach Experimenten anderer Art suchen.

Ich denke, die Schlüsselidee von Marr ist es, wie Sie sagten, geeignete atomare Einheiten zu finden, um das Problem zu beschreiben, mit anderen Worten, eine geeignete „Abstraktionsebene“, wenn ich so sagen darf. Und wenn wir ein konkretes Beispiel für ein neues Gebiet der Neurowissenschaften namens Connectomics nehmen, in dem das Ziel darin besteht, ein Diagramm der Verbindungen sehr komplexer Organismen zu finden, um die Verbindungen aller Neuronen im Kortex des menschlichen oder Maushirns zu finden. Dieser Ansatz wurde von Sydney Brenner kritisiert, die stark [historisch] einer seiner Autoren ist. Befürworter dieses Bereichs hören nicht auf und fragen nicht, ob das Verbindungsdiagramm eine geeignete Abstraktionsebene ist - vielleicht auch nicht. Wie ist Ihre Meinung dazu?

Chomsky: Es gibt viel einfachere Fragen. Zum Beispiel gab es hier am MIT ein interdisziplinäres Nematodenprogramm (Spulwurm - ca. perev. ) C. elegans seit mehreren Jahrzehnten, und so wie ich es verstehe, gibt es selbst bei dieser winzigen Kreatur, die das gesamte Verbindungsdiagramm kennt, ungefähr 800 Neuronen ...

Ich denke 300 ...

Chomsky: ... Wie auch immer, Sie tun es nicht Sie können vorhersagen, was es [C. nematode C. elegans] tun wird. Vielleicht schaust du einfach nicht dorthin.



Ich möchte zum Thema der verschiedenen Methoden in der KI übergehen. Die „gute alte künstliche Intelligenz“ (GOFAI), wie sie jetzt genannt wird, basierte auf strengen Formalismen in der Tradition von Gotlob Frege und Bertrand Russellzum Beispiel über mathematische Logik oder ihre Zweige wie nichtmonotones Denken und so weiter. Aus wissenschaftsgeschichtlicher Sicht ist es interessant, dass diese Ansätze fast vollständig vom Mainstream ausgeschlossen und - in dem Bereich, der sich jetzt AI nennt - durch Wahrscheinlichkeits- und statistische Modelle ersetzt wurden. Meine Frage ist: Wie kann diese Verschiebung erklärt werden, und ist dies ein Schritt in die richtige Richtung?

Chomsky: Ich habe Pat Winstons Bericht darüber vor einem Jahr gehört. Eine seiner Thesen war: KI und Robotik haben das Stadium erreicht, in dem man wirklich nützliche Dinge tun kann. Daher wurde die Aufmerksamkeit auf praktische Anwendungen gelenkt, und daher wurden grundlegendere wissenschaftliche Fragen beiseite gelegt, einfach weil jeder vom Erfolg der Technologie und der Technologie erfasst wurde Erreichen bestimmter Ziele.

Das heißt, alles ging in die Technik ....

Chomsky: Ja, das ist ... Und es ist ziemlich verständlich, aber das führt die Leute natürlich von den anfänglichen Fragen weg. Ich muss zugeben, dass ich diesen Originalwerken gegenüber sehr skeptisch war ( im neuen Paradigma der probabilistischen KI - ca. übersetzt ). Es schien mir, dass alles zu optimistisch war, es wurde angenommen, dass Sie Ergebnisse erzielen können, die ein wirkliches Verständnis von kaum untersuchten Systemen erfordern, und dass Sie nicht zu ihrem Verständnis gelangen können, indem Sie einfach eine komplizierte Maschine hineinwerfen. Wenn Sie dies versuchen, kommen Sie zum Konzept des sich selbst verstärkenden Erfolgs, weil Sie das Ergebnis erhalten, aber es unterscheidet sich sehr von dem, was in den Wissenschaften gemacht wird.

Nehmen wir zum Beispiel den Grenzfall, nehmen wir an, jemand möchte die Fakultät für Physik abschaffen und machen es richtig. Und „richtig“ ist es, viele Videos über das Geschehen in der Außenwelt aufzunehmen und sie dem größten und schnellsten Computer mit Gigabyte Daten zuzuführen und eine umfassende statistische Analyse durchzuführen - na ja, Bayes'sche Methoden, hin und her. (Ein moderner Ansatz zur Datenanalyse basierend auf der Wahrscheinlichkeitstheorie - Hrsg.)- und Sie erhalten so etwas wie eine Vorhersage darüber, was in der nächsten Sekunde außerhalb Ihres Fensters passieren wird. Tatsächlich erhalten Sie eine viel bessere Qualitätsvorhersage, als Ihnen die Physikabteilung geben könnte. Nun, wenn der Erfolg durch die engste Annäherung an eine Masse chaotischer Rohdaten bestimmt wird, ist dies natürlich ein viel besserer Weg als die Physiker normalerweise arbeiten - na ja, wissen Sie, keine Gedankenexperimente mehr auf einer perfekt ebenen Oberfläche und so weiter . Aber Sie werden nicht das Verständnis bekommen, das immer das Ziel der Wissenschaft war - Sie werden nur eine Annäherung an das bekommen, was passiert.

Und das wird überall gemacht. Angenommen, Sie möchten das Wetter für morgen vorhersagen. Ein Weg: OK, ich habe statistische a priori Wahrscheinlichkeiten, zum Beispiel: Es besteht eine hohe Wahrscheinlichkeit, dass das Wetter morgen das gleiche sein wird wie gestern in Cleveland, und ich benutze es, und der Sonnenstand wird etwas mehr Einfluss haben, und ich benutze es auch , Sie haben mehrere solcher Annahmen getroffen, Sie führen ein Experiment durch, Sie sehen sich die Ergebnisse immer wieder an, Sie korrigieren mit Bayes'schen Methoden, Sie erhalten die besten a priori Wahrscheinlichkeiten. Sie erhalten eine ziemlich gute Annäherung an das Wetter morgen. Aber das tun Meteorologen nicht - sie wollen nur verstehen, wie es funktioniert. Und dies sind nur zwei verschiedene Konzepte, was Erfolg ist, was Leistung ist. In meiner Wissenschaft, der Wissenschaft der Sprache, ist dies die ganze Zeit. In der rechnergestützten KognitionswissenschaftAuf die Sprache angewendet ist das Konzept des Erfolgs genau das. Das heißt, Sie erhalten immer mehr Daten, bessere Statistiken und eine immer genauere Annäherung an einen gigantischen Textkörper, beispielsweise an alle Archive des Wall Street Journal - aber Sie lernen nichts über die Sprache.

Ein völlig anderer Ansatz, den ich für richtig halte, besteht darin, zu versuchen, herauszufinden, ob Sie die Grundprinzipien und ihre Beziehung zu Schlüsseleigenschaften verstehen können, und zu sehen, dass im wirklichen Leben Tausende verschiedener Variablen Sie stören werden - so wie es jetzt geschieht Fenster - und Sie werden später darauf eingehen, wenn Sie eine genauere Annäherung wünschen. Dies sind nur zwei verschiedene Konzepte der Wissenschaft. Das zweite ist, was Wissenschaft seit Galileo ist, das ist moderne Wissenschaft. Die Annäherung von Rohdaten ist wie ein neuer Ansatz, aber tatsächlich gab es in der Vergangenheit ähnliche Dinge. Dies ist ein neuer Ansatz, der durch das Vorhandensein großer Speichermengen und eine sehr schnelle Verarbeitung beschleunigt wird und es Ihnen ermöglicht, Dinge zu tun, die Sie vorher nicht manuell tun konnten. Aber ich denkedass es Bereiche wie die rechnergestützte Kognitionswissenschaft in Richtung einer vielleicht praktischen Anwendbarkeit führt ...

… ?

: … . , , . , , , . MIT 1950-, . , , . , . , . 1960- , -. , — . , , , . . , , , , . , , , 10 . , , , . . , , , , , , , . , - , — , - , - — , , , .

Ich verstehe. Zurück zum Thema der Bayes'schen Statistik in Sprach- und Erkenntnismodellen. Es gab einen bekannten Streit mit Ihrer Teilnahme. Sie argumentierten, dass es an sich nicht vernünftig sei, über die Wahrscheinlichkeit eines Vorschlags zu sprechen ...

Chomsky: ... Nun, Sie können eine Nummer bekommen, wenn Sie wollen, aber das bedeutet nichts.

Es hat nichts zu bedeuten. Es scheint jedoch einen fast trivialen Weg zu geben, die probabilistische Methode zu vereinheitlichen, vorausgesetzt, es gibt sehr reiche interne mentale Repräsentationen, die aus Regeln und anderen symbolischen Strukturen bestehen, und das Ziel der Wahrscheinlichkeitstheorie besteht einfach darin, die verrauschten, fragmentierten Daten unserer Welt mit diesen internen zu verbinden symbolische Strukturen. Und Sie müssen nichts darüber sagen, wie diese Strukturen entstanden sind - sie könnten anfänglich existieren oder einige Parameter werden dort angepasst - es hängt von Ihrem Konzept ab. Die Wahrscheinlichkeitstheorie funktioniert jedoch wie ein Klebstoff zwischen verrauschten Daten und sehr umfangreichen mentalen Repräsentationen.

Chomsky: An der Wahrscheinlichkeitstheorie und der Statistik ist nichts auszusetzen.

Aber hat sie eine Rolle?

Chomsky:Wenn Sie es verwenden können, gut. Aber die Frage ist, warum benutzt du es? Zunächst einmal die allererste Frage: Hat es Sinn, verrauschte Daten zu verstehen? Ist es sinnvoll zu verstehen, was draußen und außerhalb des Fensters passiert?

Aber wir werden mit diesen Daten bombardiert. Dies ist eines der Beispiele für Marr: Wir stoßen ständig auf verrauschte Daten, angefangen von unserer Netzhaut bis hin zu ...

Chomsky:Ist das so. Aber hier ist, was er sagt: Fragen wir uns, wie das biologische System das Wichtige aus dem Lärm auswählt. Die Netzhaut versucht nicht, eingehende Geräusche zu duplizieren. Sie sagt: Ich werde jetzt im Bild danach suchen, dies und das. Es ist wie eine Sprache zu lernen. Ein Neugeborenes ist von einer Vielzahl von Geräuschen umgeben, wie William James sagte, "blühendes und summendes Durcheinander". Wenn ein Affe, ein Kätzchen, ein Vogel oder jemand dieses Geräusch hört, ist es das. Das Kind wählt jedoch irgendwie sofort und reflexartig aus dem Geräusch einen separaten Teil aus, der mit der Sprache verbunden ist. Dies ist der erste Schritt. ? , . . , , , - . , , , , — . , , — . , , : «, », — — , . , , . , , «» «», . , , . -, , . , , , , — — , , . , , . : , , , , , - . , -, — , , . , …

, ...

: …Dies ist ein Beweis, und natürlich möchten Sie mehr. Aber dieser Beweis ist so, dass Sie von der Seite der Linguistik schauen, wie Sprachen funktionieren - es gibt keine Dinge wie das dritte Wort in einem Satz. Nehmen wir einen einfachen Satz: "Instinktiv fliegende Adler schwimmen", hier ist "instinktiv" mit dem Wort "schwimmen" verbunden und nicht mit dem Wort "fliegen", obwohl der ganze Satz keinen Sinn ergibt. Und hier ist die Wirkung des Reflexes. "Instinktiv", ein Adverb, sucht nicht nach dem nächsten Verb, sondern nach einem strukturell besser geeigneten Verb. Dies ist eine viel kompliziertere Berechnung. Dies ist jedoch die einzige Berechnung, die allgemein verwendet wird. Die lineare Reihenfolge ist eine sehr einfache Berechnung, wird jedoch nie verwendet. Es gibt viele solche Beweise und nur sehr wenige neurolinguistische Beweise, aber sie weisen in die gleiche Richtung.Und wenn Sie sich komplexere Strukturen ansehen, finden Sie immer mehr davon.

Dies ist meiner Meinung nach ein Weg zu verstehen, wie das System tatsächlich funktioniert, wie es mit dem Bildverarbeitungssystem im Marr-Labor passiert ist: Leute wie Shimon Ullman haben bemerkenswerte Dinge wie das Prinzip der Starrheit entdeckt. Sie können dies mithilfe der statistischen Datenanalyse nicht finden. Er fand dies mit sorgfältig geplanten Experimenten. Dann suchen Sie in der Neurophysiologie und sehen, ob Sie etwas finden können, das diese Berechnungen durchführt. Ich denke das Gleiche in der Sprache, das Gleiche beim Lernen unserer Rechenfähigkeiten, Planen, fast überall. Nur mit Rohdaten arbeiten - damit kommen Sie nicht weiter, und Galileo wäre nicht gekommen. Bereits im 17. Jahrhundert war es für Menschen wie Galileo und andere große Wissenschaftler nicht einfach, die damalige National Science Foundation - nämlich die Aristokraten - davon zu überzeugendass ihre Arbeit Sinn machte. Ich meine: Warum studieren, wie ein Ball ohne Reibung auf einer vollkommen flachen Ebene rollt, weil sie nicht existieren? Warum nicht studieren, wie Blumen wachsen? Wenn Sie damals versuchen würden, das Wachstum von Blumen zu untersuchen, würden Sie wahrscheinlich eine statistische Analyse darüber erhalten, wie alles funktioniert.

Es ist wichtig, sich daran zu erinnern, dass wir uns in der Kognitionswissenschaft noch in der vorgaliläischen Ära befinden und gerade erst anfangen, Entdeckungen zu machen. Und ich denke, dass man aus der Wissenschaftsgeschichte etwas lernen kann. Eines der Hauptexperimente in der Geschichte der Chemie im Jahr 1640 oder so, als jemand zum Vergnügen der gesamten wissenschaftlichen Welt bis hin zu Newton bewies, dass Wasser in lebende Materie umgewandelt werden kann. So haben sie es gemacht - natürlich wusste niemand etwas über Photosynthese - sie haben ein Bündel Erde genommen und es erhitzt, so dass das ganze Wasser verdunstet ist. Es wurde gewogen, ein Weidenzweig hineingesteckt und Wasser von oben gegossen, wobei das Volumen dieses Wassers gemessen wurde. Wenn alles fertig ist und der Weidenbaum gewachsen ist, nimmst du wieder die Erde und verdunstest Wasser daraus - genau wie zuvor. Sie haben also gezeigt, dass aus Wasser Eiche oder etwas anderes werden kann. Dies ist ein Experiment, und es scheint sogar wahr zu sein, aber Sie wissen nicht, wonach Sie suchen.Und dies war unbekannt, bis Priestley entdeckte, dass Luft ein Bestandteil der Welt ist, Stickstoff enthält und so weiter, und Sie lernten etwas über Photosynthese und so weiter. Dann können Sie das Experiment wiederholen und verstehen, was passiert. Sie können jedoch leicht durch ein erfolgreiches Experiment in die falsche Richtung geführt werden, da Sie nicht gut genug verstehen, wonach Sie suchen sollten. Und Sie werden sogar den falschen Weg gehen, wenn Sie versuchen, das Wachstum von Bäumen wie diesen zu untersuchen: Nehmen Sie einfach eine Reihe von Daten über das Wachstum der Bäume, geben Sie sie an einen leistungsstarken Computer weiter, führen Sie eine statistische Analyse durch und erhalten Sie eine Annäherung an das, was passiert ist.Sie können jedoch leicht durch ein erfolgreiches Experiment in die falsche Richtung geführt werden, da Sie nicht gut genug verstehen, wonach Sie suchen sollten. Und Sie werden sogar den falschen Weg gehen, wenn Sie versuchen, das Wachstum von Bäumen wie diesen zu untersuchen: Nehmen Sie einfach eine Reihe von Daten über das Wachstum der Bäume, geben Sie sie an einen leistungsstarken Computer weiter, führen Sie eine statistische Analyse durch und erhalten Sie eine Annäherung an das, was passiert ist.Sie können jedoch leicht durch ein erfolgreiches Experiment in die falsche Richtung geführt werden, da Sie nicht gut genug verstehen, wonach Sie suchen sollten. Und Sie werden sogar den falschen Weg gehen, wenn Sie versuchen, das Wachstum von Bäumen wie diesen zu untersuchen: Nehmen Sie einfach eine Reihe von Daten über das Wachstum der Bäume, geben Sie sie an einen leistungsstarken Computer weiter, führen Sie eine statistische Analyse durch und erhalten Sie eine Annäherung an das, was passiert ist.

, , — , — …

: … , .

… , , .

:Ja, er hat alles richtig gemacht. Er erlaubte der Theorie, Daten zu verwalten. Es gab auch Beweise, die der Theorie widersprachen, die mehr oder weniger verworfen wurde - die Sie normalerweise nicht in den Artikel aufnehmen. Und er sprach natürlich von Dingen, die niemand finden konnte, genauso wie es unmöglich war, Einheiten zu finden, deren Existenz er bewies. Aber ja, so funktioniert Wissenschaft. So ist es auch in der Chemie. Die Chemie galt vor meiner Kindheit vor nicht allzu langer Zeit als die Wissenschaft des Rechnens. Weil es nicht auf Physik reduziert werden kann. Daher ist dies nur eine Möglichkeit, das Ergebnis von Experimenten zu berechnen. Das Bohr-Atom wurde so wahrgenommen. Ein Weg, um das Ergebnis von Experimenten zu berechnen, aber dies kann keine echte Wissenschaft sein, weil es nicht auf Physik reduziert werden kann, und plötzlich stellte sich heraus, dass es wahr ist, weil die Physik falsch war. Als die Quantenphysik entstand,es wurde möglich, sich mit unveränderter Chemie zu verbinden. Das heißt, das gesamte Projekt mit der Reduzierung war einfach falsch. Das richtige Projekt war zu sehen, wie diese beiden Weltbilder kombiniert werden können. Und es stellte sich überraschend heraus, dass sie durch radikale Veränderungen in der nachgelagerten Wissenschaft vereint waren. Vielleicht genau das Gleiche mit Psychologie und Neurowissenschaften. Ich meine, die Neurowissenschaften sind noch nicht einmal annähernd so weit fortgeschritten wie die Physik vor einem Jahrhundert.

Und dies wird eine Abkehr vom reduktionistischen Ansatz bei der Suche nach Molekülen sein ...

Chomsky: Ja. Tatsächlich wurde der reduktionistische Ansatz bereits mehrmals falsch verstanden. Ein Vereinigungsansatz ist sinnvoll. Die Vereinigung kann sich jedoch von der Reduktion unterscheiden, da die Grundlagenforschung fehlerhaft sein kann, wie dies bei Physik und Chemie der Fall ist, und ich vermute mit hoher Wahrscheinlichkeit dasselbe bei Neurowissenschaften und Psychologie. Wenn Gallistel Recht hat, dann ist es sinnvoll zu sagen, dass sie kombiniert werden können, aber mit einem anderen Ansatz für die Neurowissenschaften.

Sollten wir uns um eine rasche Vereinigung bemühen, oder ist es besser, diese Bereiche bisher parallel zu entwickeln?

Chomsky:Die Vereinigung ist eine solche intuitive Verfolgung des Ideals, Teil der wissenschaftlichen Mystik, wenn Sie so wollen. Es ist wie die Suche nach einer allgemeinen Theorie der Welt. Vielleicht existiert es nicht, vielleicht funktionieren die verschiedenen Teile unterschiedlich, aber es gibt eine Annahme, bis ich eine überzeugende Widerlegung erhalten habe, meine Annahme ist, dass es eine allgemeine Theorie der Welt gibt, und meine Aufgabe ist es, zu versuchen, sie zu finden. Die Vereinigung manifestiert sich möglicherweise nicht durch Reduktion, und dies geschieht häufig. Dies ist die Leitlogik von David Marrs Ansatz: Was Sie auf der Computerebene entdecken, muss mit dem kombiniert werden, was Sie einst auf der Ebene der Mechanismen finden, aber vielleicht nicht in den Begriffen, in denen wir diese Mechanismen jetzt verstehen.

Und Marra impliziert, dass Sie nicht auf allen drei Ebenen parallel arbeiten können [Rechen-, Algorithmus- und Implementierungsebene], sondern sich von oben nach unten bewegen müssen. Dies ist eine sehr strenge Anforderung, da dies in der Wissenschaft normalerweise nicht der Fall ist.

Chomsky: Er konnte nicht sagen, dass alles hart sein sollte. Zum Beispiel kann die Entdeckung von etwas Neuem über Mechanismen zu einer Änderung des Computerkonzepts führen. Die logische Reihenfolge stimmt nicht unbedingt mit der Reihenfolge der Forschung überein, da in der Forschung alles zur gleichen Zeit geschieht. Aber ich denke, dass das Bild in grober Näherung wahr ist. Obwohl ich sagen muss, dass das Marra-Konzept für Eingabesysteme entwickelt wurde ...

Informationsverarbeitungssysteme ...

Chomsky:Ja, wie Vision. Es gibt Daten - dies ist ein Datenverarbeitungssystem - und etwas passiert darin. Und das funktioniert bei kognitiven Systemen nicht sehr gut. Nehmen wir Ihre Rechenfähigkeit ...

Es ist sehr schwach, aber okay ...

Chomsky: Gut [lacht]. Aber dies ist eine interne Fähigkeit, Sie wissen, dass Ihr Gehirn die Steuereinheit einer Turing-Maschine ist und Zugriff auf externe Daten wie Speicher, Zeit ... Theoretisch können Sie alles multiplizieren, aber in der Praxis natürlich , nicht so. Wenn Sie versuchen zu untersuchen, welche Art von internem System Sie haben, funktioniert die Marr-Hierarchie nicht sehr gut. Sie können über die Rechenebene sprechen: Vielleicht sind die Regeln in mir Peanos Axiome [ ca. ed.: Mathematische Theorie (benannt nach dem italienischen Mathematiker Giuseppe Peano), die den Kern der Grundregeln für arithmetische und natürliche Zahlen beschreibt, aus denen Sie viele nützliche arithmetische Fakten ableiten können] oder etwas anderes, das spielt keine Rolle - dies ist die Rechenebene. Theoretisch, obwohl wir nicht wissen wie, können Sie nur über die neurophysiologische Ebene sprechen, niemand weiß wie, aber es gibt keine echte algorithmische Ebene. Da es keine Wissensrechnung gibt, handelt es sich lediglich um ein Wissenssystem. Es ist unklar, wie man die Natur des Wissenssystems versteht: Es gibt keinen Algorithmus, weil es keinen Prozess gibt. Dies kann nur mit einem Wissenssystem geschehen, in dem es einen Prozess gibt, aber es wird bereits etwas völlig anderes sein.

Aber da wir Fehler machen, bedeutet dies, dass der Prozess schief läuft?

Chomsky:Dies ist der Prozess der Verwendung des internen Systems. Das interne System selbst ist jedoch kein Prozess, da es keinen Algorithmus hat. Nehmen Sie gewöhnliche Mathematik. Wenn Sie Peanos Axiome und Inferenzregeln verwenden, definieren sie alle arithmetischen Berechnungen, aber es gibt keinen Algorithmus. Wenn Sie fragen, wie der Spezialist für Zahlentheorie sie anwendet, gibt es natürlich viele Möglichkeiten: Sie beginnen beispielsweise nicht mit Axiomen, sondern mit Inferenzregeln. Sie nehmen den Satz und sehen, ob das Lemma abgeleitet werden kann und ob es funktioniert, dann sehen Sie, ob es sich herausstellt, dass dieses Lemma auf etwas basiert, und am Ende erhalten Sie einen Beweis - ein geometrisches Objekt.

Aber dies ist eine grundlegend andere Aktivität, die sich vom Hinzufügen kleiner Zahlen in meinem Kopf unterscheidet - und natürlich habe ich eine Art Algorithmus in meinem Kopf.

Chomsky:Nicht unbedingt. Dieser Prozess hat in beiden Fällen einen Algorithmus. Es gibt jedoch keinen Algorithmus des Systems selbst, dies ist ein kategorischer Fehler. Sie fragen nicht, welchen Prozess Peanos Axiome und Inferenzregeln definieren, es gibt dort keinen Prozess. Möglicherweise gibt es einen Prozess für deren Verwendung. Dies kann ein komplizierter Prozess sein, und dies gilt auch für Ihre Berechnungen. Das interne System, das Sie haben, ist keine Prozessfrage. Wenn Sie jedoch Ihr internes System verwenden, stellt sich die Frage, und Sie können die Multiplikation auf viele Arten durchführen. Wenn Sie beispielsweise 7 und 6 hinzufügen, sagt ein Algorithmus: "Ich werde sehen, wie viel es braucht, um auf 10 zu kommen" - es dauert 3, und jetzt sind noch 3 übrig, also werde ich von 10 weggehen und 3 weitere hinzufügen, und es wird geben 13. Dies ist ein Additionsalgorithmus - so wurde ich im Kindergarten unterrichtet. Dies ist eine Möglichkeit, Zahlen hinzuzufügen.

Es gibt aber auch andere Möglichkeiten zum Hinzufügen - es gibt keinen richtigen Algorithmus. Dies sind Algorithmen zur Durchführung des Prozesses des kognitiven Systems in Ihrem Kopf. Und jetzt fragen Sie für dieses System nicht nach Algorithmen. Sie können nach der Rechenebene und nach der Ebene der Mechanismen fragen. Die algorithmische Ebene für dieses System existiert jedoch nicht. Das gleiche gilt für die Sprache. Sprache ist wie eine Rechenfähigkeit. Es gibt ein System, das den Klang und die Bedeutung einer endlosen Reihe möglicher Sätze bestimmt. Es steht jedoch außer Frage, welche Art von Algorithmus es gibt. Es steht auch außer Frage, welches formale Arithmetiksystem Ihnen sagt, wie Sie Theoreme beweisen können. Die Verwendung des Systems ist ein Prozess, und Sie können ihn anhand der Marr-Werte untersuchen. Es ist jedoch wichtig, diese Unterschiede konzeptionell zu bezeichnen.

Es scheint einfach eine unglaubliche Aufgabe zu sein, von der Theorie der Rechenebene wie Peanos Axiomen zu Marrow-Ebene 3 überzugehen ...

Chomsky: Mechanismen ...

... Mechanismen und Erkenntnisse ...

Chomsky: Ja. Und

zumindest ohne Algorithmus.

Chomsky:Ich denke das ist nicht wahr. Vielleicht sagen Ihnen die Informationen zur Verwendung des Systems etwas über die Mechanismen aus. Aber ein höherer Geist - vielleicht höher als unser - wird sehen, dass es ein inneres System gibt, und es hat eine physiologische Basis, und es wird möglich sein, diese physiologische Basis zu studieren. Ohne auch nur den Prozess zu betrachten, in dem dieses System verwendet wird. Wenn Sie den Prozess beobachten, erhalten Sie möglicherweise nützliche Informationen darüber, wohin Sie gehen müssen. Konzeptionell ist dies jedoch eine andere Aufgabe. Die Frage ist, wie man besser forscht. Der vielleicht beste Weg, um die Verbindung zwischen Peanos Axiomen und Neuronen zu untersuchen, besteht darin, zu beobachten, wie Mathematiker die Theoreme beweisen. Dies liegt jedoch nur daran, dass ich Ihnen unterstützende Informationen geben werde. Das eigentliche Endergebnis wird ein Verständnis des Gehirnsystems, seiner physiologischen Basis sein,ohne Bezug auf einen Algorithmus. Bei Algorithmen dreht sich alles um die Prozesse, die sie verwenden, und sie können Ihnen helfen, Antworten zu erhalten. Es ist möglich, wie geneigte Oberflächen Ihnen etwas über die Fallrate sagen können, aber wenn Sie sich Newtons Gesetze ansehen, sagen sie nichts über geneigte Ebenen aus.

Gut. Die Logik, kognitive und Sprachsysteme mit dem Marr-Ansatz zu untersuchen, ist verständlich, aber da Sie Sprachkompetenz nicht als genetisches Merkmal erkennen, können Sie diese Logik auf andere biologische Systeme anwenden - das Immunsystem, das Herz-Kreislauf-System ...

Chomsky: Genau, ich denke es sehr ähnlich. Sie können das gleiche über das Immunsystem sagen.

Und mit diesen Systemen kann es sogar einfacher sein, als mit Denken.

Chomsky:Aber Sie werden andere Antworten erwarten. Sie können dies mit dem Verdauungssystem tun. Angenommen, jemand untersucht das Verdauungssystem. Es ist unwahrscheinlich, dass er untersucht, was passiert, wenn Sie an Magengrippe leiden oder wenn Sie Bigmack oder etwas anderes gegessen haben. Kehren wir zum Fotografieren zurück, was vor dem Fenster passiert. Eine Möglichkeit, das Verdauungssystem zu untersuchen, besteht darin, alle Arten von Daten darüber zu sammeln, was das Verdauungssystem unter verschiedenen Umständen tut, Daten in einen Computer einzugeben und eine statistische Analyse durchzuführen - Sie erhalten etwas. Aber das wird der Biologe nicht tun. Er möchte von Anfang an mit irrelevanten Variablen, z. B. ob Sie an einer Magengrippe leiden, von dem abstrahieren, was als falsch angesehen wird - möglicherweise falsch, weil Sie immer einen Fehler machen können.

Aber genau das tun Biologen: Sie nehmen kranke Menschen mit einem kranken Verdauungssystem, vergleichen sie mit gesunden und messen molekulare Eigenschaften.

Chomsky: Sie machen es in einem fortgeschritteneren Stadium. Sie wissen bereits viel über die Struktur des Verdauungssystems, bevor sie Patienten vergleichen. Andernfalls wissen sie nicht, was sie vergleichen sollen und warum einer krank ist und der andere nicht.

Sie stützen sich auf statistische Analysen, um Unterscheidungsmerkmale zu identifizieren. Dies ist ein sehr gut finanzierter Ansatz, da Sie behaupten, Patienten zu untersuchen.

Chomsky:Dies kann durchaus ein Weg sein, um eine Finanzierung zu erhalten. Auf diese Weise erhalten Sie Mittel für die Linguistik, indem Sie sagen, dass dies zur Behandlung von Autismus beitragen könnte. Das ist insgesamt eine andere Frage [lacht]. Die Logik der Suche besteht jedoch darin, das System zu untersuchen und von dem zu abstrahieren, was Sie mit hoher Wahrscheinlichkeit für irrelevantes Rauschen halten. Sie versuchen, die grundlegende Essenz zu finden, und fragen sich dann, was passiert, wenn wir etwas anderes einbringen, dieselbe Magengrippe.

Trotzdem scheint es schwierig zu sein, Marr-Levels auf Systeme dieses Typs anzuwenden. Wenn Sie fragen, welche Art von Rechenaufgabe das Gehirn löst, dann scheint es eine Antwort zu geben, es funktioniert fast wie ein Computer. Wenn Sie sich jedoch fragen, welche Art von Rechenproblem das einfache löst, fällt es Ihnen sogar schwer, darüber nachzudenken - dies ist offensichtlich keine Aufgabe der Informationsverarbeitung.

Chomsky: Das ist so, aber es gibt keinen Grund zu der Annahme, dass die gesamte Biologie rechnerisch ist. Es kann Gründe geben zu glauben, dass das Denken so ist. Tatsächlich sagt Gallistel nicht, dass alles, was sich im Körper befindet, durch die Suche nach Lese- / Schreib- / Adresseinheiten untersucht werden muss.

Es scheint nur in Bezug auf die Evolution nicht intuitiv zu sein. Diese Systeme entwickelten sich zusammen und verwendeten ähnliche Teile, Moleküle und Flugbahnen wieder. Zellen sind Computergeräte.

Chomsky:Sie untersuchen die Lunge nicht, indem Sie Fragen dazu stellen, was Zellen berechnen. Sie studieren das Immunsystem und das visuelle System, erwarten aber nicht die gleiche Antwort. Der Körper ist ein hochmodulares System, er hat viele komplexe Subsysteme, die mehr oder weniger intern integriert sind. Sie arbeiten nach unterschiedlichen Gesetzen. Die Biologie ist ebenfalls modular aufgebaut. Sie können nicht davon ausgehen, dass dies alles nur ein riesiges Durcheinander von Objekten ist, die sich gleich verhalten.

Natürlich nicht, aber ich meine, es wäre möglich, den gleichen Ansatz für das Studium jedes der Module anzuwenden.

Chomsky: Nicht unbedingt, weil die Module unterschiedlich sind. Einige der Module sind möglicherweise rechnerisch, andere möglicherweise nicht.

, , , … , — ?

:Natürlich. Sie können zum Beispiel viel darüber verstehen, was aus einem Embryo ein Huhn macht und nicht etwa eine Maus. Dies ist ein sehr kompliziertes System, einschließlich aller Arten chemischer Wechselwirkungen und anderer Dinge. Selbst bei einem Fadenwurm ist die Tatsache, dass alles einfach durch ein neuronales Netzwerk bestimmt wird, völlig offensichtlich, und es gibt Hinweise auf Forschungen zu diesem Thema. Sie müssen sich die komplexen chemischen Wechselwirkungen ansehen, die im Gehirn und im Nervensystem auftreten. Es ist notwendig, in jedes System einzeln zu blicken. Diese chemischen Wechselwirkungen hängen möglicherweise nicht mit Ihren Rechenfähigkeiten zusammen - höchstwahrscheinlich. Aber sie können sehr leicht damit zusammenhängen, ob Sie Ihre Hand heben oder senken.

Wenn Sie jedoch anfangen, chemische Wechselwirkungen zu untersuchen, führt dies Sie zu einer wiederholten Beschreibung des Phänomens, nur mit anderen Worten.

Chomsky: Oder eine Erklärung. Weil es möglich ist, sind sie sehr wichtig und kritisch miteinander verbunden.

Wenn Sie jedoch eine Erklärung in Bezug auf „Substanz X muss aktiviert sein“ oder „Gen X muss vorhanden sein“ abgeben, erklären Sie nicht wirklich, wie der Körper funktioniert. Sie haben gerade den Hebel gefunden und klicken darauf.

Chomsky: Aber dann schauen Sie weiter und finden heraus, warum dieses Gen unter solchen Bedingungen so funktioniert oder unter anderen Bedingungen anders funktioniert.

Aber wenn Gene die falsche Abstraktionsebene sind, dann sind Sie im Flug.

Chomsky: Dann bekommen Sie nicht die richtige Antwort. Oder vielleicht auch nicht.Zum Beispiel ist bekannt, dass es schwierig ist zu berechnen, wie sich ein Organismus aus dem Genom entwickelt. In einer Zelle finden verschiedene Arten von Prozessen statt. Wenn Sie nur die Wirkung eines Gens betrachten, befinden Sie sich möglicherweise auf der falschen Abstraktionsebene. Es ist nie klar, daher ist es notwendig, dies zu studieren. Ich glaube nicht, dass es einen Algorithmus zur Beantwortung solcher Fragen gibt.

Ich möchte das Gespräch in Richtung Evolution verlagern. Sie kritisierten einen sehr interessanten Standpunkt, den Sie "phylogenetischen Empirismus" nannten. Sie haben diese Position wegen mangelnder Erklärungskraft kritisiert. Sie sagt einfach Folgendes: Denken ist also das, was es ist, weil solche Anpassungen an die Umwelt gewählt wurden. Ausgewählt durch natürliche Auslese. Sie haben argumentiert, dass dies nichts erklärt, weil Sie sich immer auf diese beiden Prinzipien berufen können - Mutation und Selektion.

: , , . , . , , .

( — . . ).

: , . — [].

.

:Vielleicht ist dies die höchste Erklärungsebene, die Sie bekommen können. Sie können die Welt erfinden - ich glaube nicht, dass es unsere Welt sein wird -, aber Sie können eine Welt erfinden, in der nichts passiert, außer zufälligen Änderungen an Objekten und Auswahl basierend auf externen Kräften. Ich glaube nicht, dass unsere Welt so arrangiert ist, und ich glaube nicht, dass es mindestens einen Biologen gibt, der das glaubt. Es gibt viele Möglichkeiten, wie Naturkräfte die Kanäle bestimmen, in denen Selektion stattfinden kann, manche Dinge passieren, andere nicht. So viele Dinge im Körper funktionieren nicht so. Machen Sie zumindest den ersten Schritt, Meiose: Warum teilen sich Zellen eher in Kugeln als in Würfel? Dies sind keine zufälligen Mutationen oder natürliche Selektion: Dies sind die Gesetze der Physik. Es gibt keinen Grund zu der Annahme, dass die Gesetze der Physik hier aufhören, sie funktionieren überall.

Ja, natürlich schränken sie die Biologie ein.

Chomsky: Okay, das heißt, es sind immer noch nicht nur zufällige Mutationen und Selektionen. Dies sind: zufällige Mutationen, Selektion und alles andere, was wichtig ist, zum Beispiel die Gesetze der Physik.

Gibt es einen Platz für diese Ansätze, die jetzt als "vergleichende Genomik" bezeichnet werden? Das Broads Institute hier [am MIT / Harvard] erstellt große Datenmengen aus verschiedenen Genomen verschiedener Tiere, verschiedenen Zellen unter verschiedenen Umständen und sequenziert jedes mögliche Molekül. Gibt es etwas, das aus diesen vergleichenden evolutionären Experimenten über kognitive Aufgaben auf hoher Ebene gelernt werden kann, oder ist dies ein unreifer Ansatz?

Chomsky: Ich sage nicht, dass dies der falsche Ansatz ist, aber ich weiß nicht, was daraus gelernt werden kann. Wie du.

, - ? , Foxp2? [ . : , , , . , . , .]

:Foxp2 ist interessant, hat aber nichts mit der Sprache zu tun. Es ist mit Feinmotorik und ähnlichen Dingen verbunden. Dies hat mit dem Gebrauch von Sprache zu tun, zum Beispiel wenn Sie sagen - Sie kontrollieren Ihre Lippen und so weiter, aber es ist sehr peripher für die Sprache, und dies ist bereits bekannt. Wenn Sie beispielsweise Artikulationsorgane oder -zeichen verwenden, ist beispielsweise eine Handbewegung dieselbe Sprache. Tatsächlich wird es sogar im selben Teil des Gehirns analysiert und produziert, obwohl sich in einem Fall die Hände in den anderen Lippen bewegen. Was auch immer Externalisierung ist, es ist alles an der Peripherie. Ich denke, es ist ziemlich schwierig, darüber zu sprechen, aber wenn Sie sich die Struktur der Sprache ansehen, werden Sie Beweise dafür erhalten. Es gibt interessante Beispiele für das Erlernen von Sprachen, bei denen ein Konflikt zwischen Recheneffizienz und Kommunikationseffizienz besteht.

Nehmen Sie dieses bereits erwähnte Beispiel mit linearer Reihenfolge. Wenn Sie wissen möchten, an welches Verb ein Adverb angehängt ist, verwendet das Kind reflexiv den minimalen strukturellen Abstand anstelle des minimalen linearen Abstands. Ja, es ist aus rechnerischer Sicht einfacher, den minimalen linearen Abstand zu verwenden, aber dafür ist es notwendig, dass es ein Konzept der linearen Ordnung gibt. Und wenn die lineare Ordnung nur ein Reflex des sensomotorischen Systems ist, was vernünftig erscheint, wird dies nicht der Fall sein. Hier ist ein Beweis dafür, dass die Projektion des internen Systems auf das sensomotorische System für den Betrieb des Computersystems peripher ist.

Aber kann es sein, dass das Computersystem seine Grenzen einführt, wie begrenzt die Physik die Meiose?

Chomsky:Vielleicht, aber es gibt keine Beweise. Zum Beispiel hat das linke Ende - das linke im Sinne eines früheren Satzes - andere Eigenschaften als das rechte. Wenn Sie eine Frage stellen möchten, zum Beispiel: "Wen sehen Sie?" Sie setzen das Wort "Wen" am Anfang, nicht am Ende. Tatsächlich bewegt sich in jeder Sprache, in der sich die fragende Gruppe - deren Buch sich woanders bewegt - nach links und nicht nach rechts. Dies ist sehr wahrscheinlich eine Einschränkung der Informationsverarbeitung. Der Satz beginnt mit dem, was der Hörer Ihnen sagt: So sehe ich aus. Wenn es am Ende wäre, hätten Sie einen vollständig deklarativen Vorschlag, und erst am Ende würden Sie wissen, nach welchen Informationen ich Sie frage. Wenn Sie dies sagen, ist dies eine Einschränkung der Informationsverarbeitung. In diesem Fall wirkt sich die Externalisierung auf den rechnerischen Charakter von Syntax und Semantik aus.

Es gibt Fälle, in denen offensichtliche Konflikte zwischen rechnerischer und kommunikativer Effektivität auftreten. Nehmen Sie ein einfaches Beispiel: Wenn ich sage: „Besuche bei Verwandten können eine Belastung sein“, ist dies nicht eindeutig. Besuchen dich Verwandte? Oder wirst du Verwandte besuchen? Es stellt sich heraus, dass in jedem bekannten Fall Mehrdeutigkeit einfach dadurch entsteht, dass wir zulassen, dass die Regeln ohne Einschränkungen frei funktionieren. Es ist also rechnerisch effizient, aber für die Kommunikation ineffizient, da es zu unlösbarer Mehrdeutigkeit führt.

Oder nehmen Sie ein Beispiel für Vorschläge mit der Wirkung eines Gartenwegs, der in die falsche Richtung führt. Vorschläge wie: "Das Pferd raste am Stall vorbei." (Das Pferd, das zur Scheune geschickt wurde, fiel hin - ca.) Menschen, die ein solches Angebot sehen, verstehen es nicht, weil es so konstruiert ist, dass Sie den Gartenweg entlang gehen. "Das Pferd raste an der Scheune vorbei" klingt wie ein Satz, und dann sind Sie verwirrt: Was macht das Wort "fiel" am Ende? Wenn Sie darüber nachdenken, ist dies ein absolut korrekt formulierter Vorschlag. Dies bedeutet, dass ein Pferd gefallen ist, das von einer Scheune an jemandem vorbeigeführt wurde. Aber die Regeln der Sprache können, wenn sie einfach funktionieren, aufgrund des Phänomens des Gartenwegs zu unverständlichen Sätzen führen.

. , - , . : . : « , ». : « , , ?» . , . « , , ?» - , . , . , . , , , — .
Tatsächlich gewinnt in jedem Fall eines solchen Konflikts die Recheneffizienz. Die Externalisierung ist in allen Fällen den Mehrdeutigkeiten unterlegen, aber nur aus rechnerischen Gründen macht sich das System in sich anscheinend keine Sorgen um die Externalisierung. Ich habe es vielleicht nicht plausibel genug gezeigt, aber wenn Sie es laut aussprechen, wird dies ein ausreichend überzeugendes Argument sein.

- . : , , . , , . - , , , — , , — - , , …

?

:Sie gibt dir Nachdenken. Ein kleines Aufblitzen des Gehirns, das bei einem Individuum auftritt, gehört nicht zu einer Gruppe. Diese Person hatte die Fähigkeit zu denken, die Gruppe nicht. Es macht also keinen Sinn, zu externalisieren. Wenn sich diese genetische Veränderung ausbreitet und zum Beispiel viele Menschen sie haben, ist es sinnvoll, nach einer Möglichkeit zu suchen, sie auf das sensomotorische System zu projizieren, und dies ist eine Externalisierung, aber dies ist ein sekundärer Prozess.

Nur wenn Externalisierung und internes Denksystem nicht unvorhersehbar miteinander verbunden sind.

Chomsky:Wir sagen nicht voraus, und das macht wenig Sinn. Warum sollte sie mit einem externen System verbunden sein? Zum Beispiel sind Ihre arithmetischen Fähigkeiten nicht damit verbunden. Und es gibt viele andere Tiere wie Singvögel, die ein internes Computersystem haben, ein Vogellied. Dies ist nicht dasselbe System, aber es ist ein internes Computersystem. Und sie ist externalisiert, aber manchmal nicht. In einigen Formen beherrscht das Küken ein Lied dieser Art, reproduziert es jedoch erst zur Reife. In dieser frühen Phase hat er ein Lied, aber kein Externalisierungssystem. Dies gilt auch für Menschen: Das menschliche Kind versteht viel mehr, als es reproduzieren kann - ziemlich viele experimentelle Beweise -, was darauf hindeutet, dass das Kind ein internes System hat, es aber nicht externalisieren kann. Vielleicht hat er nicht genug Gedächtnis,oder aus anderen Gründen.

. , , , . , MIT, , , , , , , . , -, , ? , ? , — , .

:Die Wissenschaftsphilosophie ist eine sehr interessante Disziplin, aber ich glaube nicht, dass sie wirklich einen Beitrag zur Wissenschaft leistet - sie lernt aus der Wissenschaft. Sie versucht zu verstehen, was die Wissenschaften tun, warum in ihnen Erfolge erzielt werden, welche Wege falsch sind, ob sie kodifiziert und verstanden werden können. Was ich in der Wissenschaftsgeschichte für wichtig halte. Ich denke, wir lernen aus der Wissenschaftsgeschichte viel darüber, was für die Entwicklung der Wissenschaften sehr wichtig sein kann. Besonders wenn wir verstehen, dass wir uns in den kognitiven Wissenschaften noch im vorgaliläischen Stadium befinden. Wir wissen nicht, dass wir nach etwas suchen, das Galileo bereits gefunden hat, und es gibt etwas zu lernen. Eine bemerkenswerte Tatsache aus den frühen Wissenschaften, nicht unbedingt aus Galileo, sondern insgesamt aus der Zeit der galiläischen Entdeckungen, ist zum Beispiel, dass einfache Dinge sehr verwirrend sein können. Also halte ich diese Tasse, und wenn das Wasser kocht, steigt Dampf auf, aber wenn ich meine Hand nehme, fällt die Tasse.Warum fällt die Tasse und der Dampf steigt? Tausend Jahre hintereinander war dies eine völlig zufriedenstellende Antwort: Sie streben nach ihrem natürlichen Zustand.

?

:Das ist aristotelische Physik. Die besten und größten Wissenschaftler glaubten, dass dies die Antwort ist. Galileo erlaubte sich zu zweifeln. Sobald Sie sich erlauben zu zweifeln, stellen Sie sofort fest, dass Ihre Intuition falsch ist. Wie ein Tropfen kleiner und großer Masse und so weiter. Alle deine Intuitionen täuschen dich - Rätsel sind überall, wo du hinschaust. In der Wissenschaftsgeschichte gibt es etwas zu studieren. Nehmen Sie das gleiche Beispiel, das ich Ihnen gegeben habe: "Instinktiv schwimmen fliegende Adler." Niemand hat jemals gedacht, dass es ein Rätsel ist. Aber wenn Sie darüber nachdenken, ist es sehr mysteriös: Sie verwenden komplexe Berechnungen anstelle einfacher. Wenn Sie sich darüber überraschen lassen, wie wenn eine Tasse fällt, stellen Sie die Frage „Warum?“ Und kommen dann auf den Weg zu ziemlich interessanten Antworten. Wie zum Beispiel: Die lineare Ordnung ist nicht Teil eines Computersystems.Dies ist eine wichtige Annahme über die Architektur des Denkens - sie besagt, dass die lineare Ordnung nur ein Teil des Externalisierungssystems ist, dh des Sekundärsystems. Und dies eröffnet eine Vielzahl anderer Möglichkeiten.

: . , , .

: , , — 2,5- , « » , .

— .