Eliezer Yudkowsky
En savoir plus sur l'auteur
...plusCompte non officiel
149
@eliezerYudkowsky
Test du tournesol: Si vous ne pouvez pas décrire la loi de Ricardo sur l'avantage comparatif et expliquer pourquoi les gens le trouvent contre-intuitifs, vous ne savez pas assez sur l'économie pour diriger les critiques ou les éloges du "capitalisme" parce que vous ne savez pas ce que sont les autres personnes se référant lorsqu'ils utilisent ce mot.
@eliezerYudkowsky
Mon expérience est que les journalistes rendent compte de l'algorithme de cliché le plus proche, qui est extrêmement non informatif car il n'y a pas beaucoup de clichés, la vérité est souvent assez éloignée de tout cliché, et la seule chose que vous pouvez déduire sur l'événement réel était que c'était que c'était le cliché le plus proche. Il n'est tout simplement pas possible d'apprécier l'horreur des rapports des médias traditionnels jusqu'à ce que quelqu'un ait réellement rendu compte de vous. C'est tellement pire que vous ne le pensez.
@eliezerYudkowsky
La plupart des moldus vivaient dans un monde défini par les limites de ce que vous pourriez faire avec les voitures et les téléphones. Même si la physique moldue a explicitement autorisé les possibilités comme la nanotechnologie moléculaire ou le processus de Penrose pour extraire l'énergie des trous noirs, la plupart des gens ont déposé cela dans la même section de leur cerveau qui a stocké des contes de fées et des livres d'histoire, bien loin de leurs réalités personnelles: il y a longtemps Et loin, il y a si longtemps.
@eliezerYudkowsky
Si notre extinction se déroule assez lentement pour permettre un moment de réalisation horrifiée, les acteurs de l'acte seront probablement assez surpris pour se rendre compte qu'ils ont réellement détruit le monde. Par conséquent, je suggère que si la terre est détruite, ce sera probablement par erreur.
@eliezerYudkowsky
L'étude expérimentale systématique des erreurs reproductibles du raisonnement humain, et ce que ces erreurs révèlent sur les processus mentaux sous-jacents, est connu sous le nom de programme d'heuristique et de biais en psychologie cognitive. Ce programme a rendu les découvertes très pertinentes pour les évaluateurs des risques catastrophiques mondiaux.
@eliezerYudkowsky
La loi de Moore de la science folle: tous les dix-huit mois, le QI minimum nécessaire pour détruire le monde baisse d'un point.
@eliezerYudkowsky
Le choix évident n'est pas toujours le meilleur choix, mais parfois, par Golly, il l'est. Je n'arrête pas de regarder dès que je trouve une réponse évidente, mais si je continue à chercher, et la réponse évidente semble toujours évidente, je ne me sens pas coupable de le garder.
@eliezerYudkowsky
La plupart des moldus vivaient dans un monde défini par les limites de ce que vous pourriez faire avec les voitures et les téléphones. Même si la physique moldue a explicitement autorisé les possibilités comme la nanotechnologie moléculaire ou le processus de Penrose pour extraire l'énergie des trous noirs, la plupart des gens ont déposé cela dans la même section de leur cerveau qui a stocké des contes de fées et des livres d'histoire, bien loin de leurs réalités personnelles: il y a longtemps Et loin, il y a si longtemps.
@eliezerYudkowsky
Grâce à la rationalité, nous deviendrons géniaux, et inventerons et testerons et testerons des méthodes systématiques pour rendre les gens géniaux, et complotons pour optimiser tout ce qui est en vue, et plus nous nous amuserons, plus nous voulons nous rejoindre.
@eliezerYudkowsky
De loin, le plus grand danger d'intelligence artificielle est que les gens concluent trop tôt qu'ils le comprennent.
@eliezerYudkowsky
[...] les gens intelligents n'ont qu'un certain temps (mesuré en temps subjectif passé à penser à la religion) pour devenir athées. Après un certain point, si vous êtes intelligent, avez passé du temps à réfléchir et à défendre votre religion, et n'avez toujours pas échappé à l'emprise de l'épistémologie du côté obscur, l'intérieur de votre esprit se transforme en peinture d'Escher.
@eliezerYudkowsky
Les graphiques importants sont ceux où certaines choses ne sont pas connectées à d'autres choses. Lorsque les non-éclairées essaient d'être profondes, ils font des comparaisons verbales sans fin entre ce sujet, et ce sujet, qui est comme ça, ce qui est comme ça; Jusqu'à ce que leur graphique soit entièrement connecté et également totalement inutile.
@eliezerYudkowsky
Les gens que je connais qui semblent faire des efforts inhabituels dans la rationalité sont inhabituellement honnêtes, ou, à défaut, ont au moins des compétences sociales inhabituellement mauvaises.
@eliezerYudkowsky
Les transhumanistes n'aiment pas la mort. Nous l'arrêterons si nous le pouvions. À cette fin, nous soutenons la recherche qui maintient l'espoir d'un avenir dans lequel l'humanité a vaincu la mort.
@eliezerYudkowsky
Le choix évident n'est pas toujours le meilleur choix, mais parfois, par Golly, il l'est. Je n'arrête pas de regarder dès que je trouve une réponse évidente, mais si je continue à chercher, et la réponse évidente semble toujours évidente, je ne me sens pas coupable de le garder.
@eliezerYudkowsky
Le but d'une philosophie morale est de ne pas avoir l'air délicieusement étrange et contre-intuitif ou de fournir un emploi aux bioéthiciens. Le but est de guider nos choix vers la vie, la santé, la beauté, le bonheur, le plaisir, le rire, le défi et l'apprentissage.
@eliezerYudkowsky
Test du tournesol: Si vous ne pouvez pas décrire la loi de Ricardo sur l'avantage comparatif et expliquer pourquoi les gens le trouvent contre-intuitifs, vous ne savez pas assez sur l'économie pour diriger les critiques ou les éloges du "capitalisme" parce que vous ne savez pas ce que sont les autres personnes se référant lorsqu'ils utilisent ce mot.
@eliezerYudkowsky
L'intelligence est la source de la technologie. Si nous pouvons utiliser la technologie pour améliorer l'intelligence, cela ferme la boucle et crée potentiellement un cycle de rétroaction positif.
@eliezerYudkowsky
La domination mondiale est une expression si laide. Je préfère l'appeler l'optimisation mondiale.
@eliezerYudkowsky
Le but d'une philosophie morale est de ne pas avoir l'air délicieusement étrange et contre-intuitif ou de fournir un emploi aux bioéthiciens. Le but est de guider nos choix vers la vie, la santé, la beauté, le bonheur, le plaisir, le rire, le défi et l'apprentissage.
@eliezerYudkowsky
Je veux porter dans mon cœur pour toujours le mot clé des Jeux olympiques - «passion».
@eliezerYudkowsky
La science a des héros, mais pas de dieux. Les grands noms ne sont pas nos supérieurs, ni même nos rivaux, ils sont passés des jalons sur notre route; Et le jalon le plus important est le héros à venir.
@eliezerYudkowsky
Les singularitaires sont les munchkins du monde réel. Nous ignorons simplement tous les donjons habituels et nous nous dirigeons directement vers le cycle des sorts de souhaits infinis.
@eliezerYudkowsky
Il y a un concept populaire de «l'intelligence» en tant qu'intelligence de livres, comme le calcul ou les échecs, par opposition aux compétences sociales. Les gens disent donc qu '«il faut plus que l'intelligence pour réussir dans la société humaine». Mais les compétences sociales résident dans le cerveau, pas dans les reins.
@eliezerYudkowsky
Nous avons tendance à voir les différences individuelles au lieu des universaux humains. Ainsi, lorsque quelqu'un dit le mot «intelligence», nous pensons à Einstein au lieu des humains.
@eliezerYudkowsky
La science du manuel est magnifique! La science des manuels est compréhensible, contrairement aux simples mots fascinants qui ne peuvent jamais être vraiment beaux. Les manuels des sciences élémentaires décrivent des théories simples, et la simplicité est au cœur de la beauté scientifique. Les mots fascinants n'ont pas de pouvoir, ni encore de sens, sans les mathématiques.
@eliezerYudkowsky
Si vous avez remis [un caractère] un verre plein à 90%, il vous dirait que la partie vide à 10% prouvait que personne ne se souciait vraiment de l'eau.
@eliezerYudkowsky
D'accord, donc (a) je viens de téléporter ailleurs entièrement (b), ils peuvent plier l'espace comme personne de personne ou (c) ils ignorent simplement toutes les règles.
@eliezerYudkowsky
Bien que j'aie beaucoup d'amis dans le monde universitaire, je n'opère pas moi-même dans le système académique.