Je m'attends à ce que les gens se sentent différemment à ce sujet une fois qu'ils sont conscients que les systèmes d'IA peuvent surveiller à travers une caméra et peuvent, en quelque sorte, comprendre ce qu'il constate.

Vous avez un objectif très précisément défini et vous construisez une machine qui est surhumaine dans ses capacités pour atteindre des objectifs. S'il s'avère que le comportement ultérieur du robot pour atteindre cet objectif n'était pas ce que vous voulez, vous avez un vrai problème.

Il y a beaucoup d'entreprises qui essaient vraiment de collecter autant d'informations que possible sur chaque personne sur la planète, car elles pensent que ça va être précieuse et c'est probablement déjà précieux.

Vous pouvez utiliser un moteur de recherche, comme Google ou Bing ou autre chose. Mais ces moteurs ne comprennent rien sur les pages qu'ils vous donnent; Ils indexent essentiellement les pages en fonction des mots que vous recherchez, puis ils coupent cela avec les mots de votre requête, et ils utilisent quelques astuces pour déterminer quelles pages sont plus importantes que d'autres. Mais ils ne comprennent rien.

Lorsque je lis la philosophie ou les articles de neurosciences sur la conscience, je n'ai pas le sentiment que nous sommes plus près de le comprendre qu'il y a 50 ans.

La singularité n'a rien à voir avec la conscience.

J'avais l'habitude de dire que si vous me donniez un billion de dollars pour construire une machine sensible ou consciente, je le rendrais. Je ne pouvais pas dire honnêtement que je savais comment ça marche.

Les programmes d'échecs ne jouent pas aux échecs comme les humains jouent aux échecs. Nous ne savons pas vraiment comment les humains jouent aux échecs, mais l'une des choses que nous faisons est de repérer une opportunité sur la planche d'échecs vers un mouvement pour capturer la reine de l'adversaire.

Nous nous appelons Homo Sapiens - homme le sage - parce que notre intelligence est si importante pour nous. Pendant des milliers d'années, nous avons essayé de comprendre comment nous pensons: c'est-à-dire comment une simple poignée de matière peut percevoir, comprendre, prédire et manipuler un monde beaucoup plus grand et plus compliqué que lui-même. Le domaine de l'intelligence artificielle, ou IA, va encore plus loin: il essaie non seulement de comprendre mais aussi de construire des entités intelligentes.

Il est peu probable que les machines décident spontanément qu'elles n'aimaient pas les gens ou qu'ils avaient des objectifs en opposition à ceux des êtres humains.

Certaines personnes pensent que, inévitablement, chaque robot qui fait n'importe quelle tâche est une mauvaise chose pour la race humaine, car cela pourrait emporter un emploi. Mais ce n'est pas nécessairement vrai. Vous pouvez également considérer le robot comme rendre une personne plus productive et permettre aux gens de faire des choses qui sont actuellement économiquement irréalisables. Mais une personne et un robot ou une flotte de robots pourraient faire des choses qui seraient vraiment utiles.

Beaucoup de gens disent que vers 2030, les machines seront plus puissantes que le cerveau humain, en termes de nombre brut de calculs qu'elles peuvent effectuer par seconde. Mais cela semble complètement hors de propos. Nous ne savons pas comment le cerveau est organisé, comment il fait ce qu'il fait.

Le robot ne voudra pas être éteint parce que vous lui avez donné un objectif pour atteindre et être éteint est un moyen d'échouer - il fera donc de son mieux pour ne pas être éteint. C'est une histoire qui n'est pas claire dans la plupart des films, mais je pense que c'est un vrai problème.

La locomotion des jambes était, pendant des décennies, considérée comme un problème incroyablement difficile. Il y a eu des progrès très, très minutieusement lents là-bas, et des robots qui ont essentiellement percuté à une étape toutes les 15 secondes et sont parfois tombés.

Certains doctorants écrivent des logiciels ou travaillent pour des fonds spéculatifs, mais la physique a toujours un problème avec des personnes très intelligentes mais pas assez d'opportunités.

La plupart des IA consiste à comprendre quelles sont les pages importantes que vous souhaitez. Et dans une certaine mesure ce que signifie votre requête et ce que vous êtes susceptible d'être en fonction de votre comportement précédent et d'autres informations qu'il recueille à votre sujet.

Lorsque les gens parlent de la singularité, lorsque les gens parlent d'IA superintelligent, ils ne parlent pas de sensibilité ou de conscience. Ils parlent de la capacité surhumaine à prendre des décisions de haute qualité.

Il est très difficile de prédire quel type d'utilisations nous ferions des assistants qui pourraient lire et comprendre toutes les informations que la race humaine ait jamais générées. Cela pourrait être vraiment transformationnel.

Si vous aviez un système qui pouvait lire toutes les pages et comprendre le contexte, au lieu de simplement rejeter 26 millions de pages pour répondre à votre requête, cela pourrait en fait répondre à la question. Vous pourriez poser une vraie question et obtenir une réponse comme si vous parliez à une personne qui a lu tous ces millions et milliards de pages, les a compris et synthétisé toutes ces informations.

La capacité de l'IA à reconnaître les catégories et les images visuelles est désormais assez proche de ce que les êtres humains peuvent gérer, et probablement mieux que beaucoup de gens, en fait. L'IA peut avoir plus de connaissances sur des catégories détaillées, comme les animaux, etc.

À ma connaissance, personne - personne qui publie des articles dans le domaine principal de l'IA - ne travaille même sur la conscience. Je pense qu'il y a des neuroscientifiques qui essaient de le comprendre, mais je ne sais pas qu'ils ont fait des progrès.

Google ou d'autres moteurs de recherche sont des exemples d'IA et d'IA relativement simple, mais ils sont toujours l'IA. Cela plus beaucoup de matériel pour le faire fonctionner assez vite.

Il n'y a pas de théorie scientifique qui pourrait nous conduire d'une carte détaillée de chaque neurone du cerveau de quelqu'un à une expérience consciente. Nous n'avons même pas les débuts d'une théorie dont la conclusion serait "un tel système est conscient.

Personne n'a la moindre idée de la construction d'une machine consciente, du tout. Nous avons moins d'indices sur la façon de faire cela que de construire un vaisseau spatial plus rapide que léger.

Plus nous apprenons sur l'IA et sur le fonctionnement du cerveau, plus le cerveau semble incroyable. La simple quantité de calcul qu'il fait est vraiment incroyable, surtout pour quelques livres de viande.

Ses oeuvres