Eliezer Yudkowsky
En savoir plus sur l'auteur
...plusCompte non officiel
149
@eliezerYudkowsky
Si vous souhaitez maximiser votre utilité attendue, vous essayez de sauver le monde et l'avenir de la civilisation intergalactique au lieu de donner votre argent à la Société pour guérir les maladies rares et les chiots mignons.
@eliezerYudkowsky
Ne pas tressaillir des expériences qui pourraient détruire vos croyances. La pensée que vous ne pouvez pas penser vous contrôle plus que les pensées que vous parlez à haute voix. Soumettez-vous aux épreuves et testez-vous dans le feu. Abandonner l'émotion qui repose sur une croyance erronée et cherche à ressentir pleinement cette émotion qui correspond aux faits.
@eliezerYudkowsky
Si vous voulez construire une IA d'auto-amélioration récursive, faites-le passer par un milliard d'auto-modifications séquentielles, devenez beaucoup plus intelligente que vous, et ne mourrez pas, vous devez travailler à une norme assez précise.
@eliezerYudkowsky
Je suis tenté de dire qu'un doctorat en IA serait négativement utile, mais je ne suis pas du genre à tenir les jeunes téméraires de quelqu'un contre eux - ce n'est pas parce que vous avez acquis un doctorat en IA que vous devez être disqualifié en permanence.
@eliezerYudkowsky
Si vous êtes également doué pour expliquer tout résultat, vous n'avez aucune connaissance.
@eliezerYudkowsky
Je continue d'essayer d'expliquer aux gens que l'archétype de l'intelligence n'est pas Dustin Hoffman dans «The Rain Man»; C'est un être humain, point final. Ce sont des choses squishy qui explosent dans le vide, laissant des empreintes de pas sur leur lune.
@eliezerYudkowsky
Dans l'ensemble, la réponse à la question "Comment les grandes institutions survivent-elles?" est "ils ne le font pas!" La grande majorité des grandes institutions modernes - dont certaines extrêmement vitales pour le fonctionnement de notre civilisation complexe - ne parviennent pas à exister en premier lieu.
@eliezerYudkowsky
Ne pas tressaillir des expériences qui pourraient détruire vos croyances. La pensée que vous ne pouvez pas penser vous contrôle plus que les pensées que vous parlez à haute voix. Soumettez-vous aux épreuves et testez-vous dans le feu. Abandonner l'émotion qui repose sur une croyance erronée et cherche à ressentir pleinement cette émotion qui correspond aux faits.
@eliezerYudkowsky
Les règles de Crocker ne vous ont pas donné le droit de dire quoi que ce soit d'offensive, mais d'autres pourraient vous dire des choses potentiellement offensantes, et c'était votre responsabilité de ne pas être offensé. C'était étonnamment difficile à expliquer aux gens; Beaucoup de gens liraient l'explication minutieuse et entendaient: "Les règles de Crocker signifient que vous pouvez dire des choses offensives à d'autres personnes."
@eliezerYudkowsky
Si vous voulez construire une IA d'auto-amélioration récursive, faites-le passer par un milliard d'auto-modifications séquentielles, devenez beaucoup plus intelligente que vous, et ne mourrez pas, vous devez travailler à une norme assez précise.
@eliezerYudkowsky
Entre les biais de recul, la fausse causalité, le biais positif, l'ancrage / l'amorçage, et cetera et cetera, et surtout le biais de confirmation redouté, une fois qu'une idée entre dans la tête, elle y restera probablement.
@eliezerYudkowsky
Un scientifique digne d'une blouse de laboratoire devrait être capable de faire des découvertes originales en portant un costume de clown, ou de donner une conférence d'une voix aiguë et grinçante en inhalant de l'hélium. Il n'est écrit nulle part dans les mathématiques de la théorie des probabilités que l'on ne peut pas s'amuser.
@eliezerYudkowsky
- Avec tout le respect que je vous dois, Professeur McGonagall, je ne suis pas sûr que vous compreniez ce que j'essaie de faire ici. - Avec tout le respect que je vous dois, M. Potter, je suis certain de ne pas comprendre. À moins que - c'est une supposition - vous n'essayiez de conquérir le monde ? - Non ! Je veux dire oui - enfin, NON - je pense que je devrais peut-être m'alarmer du fait que vous ayez du mal à répondre à la question.
@eliezerYudkowsky
Et un jour, lorsque les descendants de l'humanité se seront propagés d'étoile en étoile, ils ne parleront pas aux enfants de l'histoire de la Terre antique tant qu'ils ne seront pas assez grands pour la supporter ; et quand ils apprendront, ils pleureront d'apprendre qu'une chose telle que la mort ait jamais existé !
@eliezerYudkowsky
- Chaque fois que quelqu'un crie dans la prière et que je ne peux pas répondre, je me sens coupable de ne pas être Dieu. - Ça ne sonne pas bien. - Je comprends que j'ai un problème, et je sais ce que je dois faire pour le résoudre, d'accord ? J'y travaille. Bien sûr, Harry n'avait pas dit quelle était la solution. La solution, évidemment, était de se dépêcher et de devenir Dieu.
@eliezerYudkowsky
La dépression existentielle m'a toujours ennuyé; C'est l'une des formes de souffrance les plus inutiles au monde.
@eliezerYudkowsky
Je continue d'essayer d'expliquer aux gens que l'archétype de l'intelligence n'est pas Dustin Hoffman dans «The Rain Man»; C'est un être humain, point final. Ce sont des choses squishy qui explosent dans le vide, laissant des empreintes de pas sur leur lune.
@eliezerYudkowsky
Si vous voulez construire une IA d'auto-amélioration récursive, faites-le passer par un milliard d'auto-modifications séquentielles, devenez beaucoup plus intelligente que vous, et ne mourrez pas, vous devez travailler à une norme assez précise.
@eliezerYudkowsky
Dans nos crânes, nous transportons environ 3 livres de tissus gris et mouillés, ondulés comme du papier toilette froissé. Vous ne penseriez pas, pour regarder la bosse non appétissante, que c'était certaines des choses les plus puissantes de l'univers connu.
@eliezerYudkowsky
Je suis tenté de dire qu'un doctorat en IA serait négativement utile, mais je ne suis pas du genre à tenir les jeunes téméraires de quelqu'un contre eux - ce n'est pas parce que vous avez acquis un doctorat en IA que vous devez être disqualifié en permanence.
@eliezerYudkowsky
Les règles de Crocker ne vous ont pas donné le droit de dire quoi que ce soit d'offensive, mais d'autres pourraient vous dire des choses potentiellement offensantes, et c'était votre responsabilité de ne pas être offensé. C'était étonnamment difficile à expliquer aux gens; Beaucoup de gens liraient l'explication minutieuse et entendaient: "Les règles de Crocker signifient que vous pouvez dire des choses offensives à d'autres personnes."
@eliezerYudkowsky
Je suis fainéant! Je déteste le travail! Déteste le travail acharné sous toutes ses formes! Raccourcis intelligents, c'est tout ce dont je suis!
@eliezerYudkowsky
Si j'enseigne des choses profondes, alors je considère qu'il est important de faire en sorte que les gens aient l'impression d'apprendre des choses profondes, car sinon, ils auront toujours un trou dans leur esprit pour des "vérités profondes" qui doivent être remplies, et ils le feront Partez et remplissez la tête d'un non-sens complet qui a été écrit dans un style plus satisfaisant.
@eliezerYudkowsky
Je me demande s'il y a un sort pour faire du éclair en arrière-plan chaque fois que je fais une résolution inquiétante.
@eliezerYudkowsky
Un scientifique digne d'une blouse de laboratoire devrait être capable de faire des découvertes originales en portant un costume de clown, ou de donner une conférence d'une voix aiguë et grinçante en inhalant de l'hélium. Il n'est écrit nulle part dans les mathématiques de la théorie des probabilités que l'on ne peut pas s'amuser.
@eliezerYudkowsky
Dans nos crânes, nous transportons environ 3 livres de tissus gris et mouillés, ondulés comme du papier toilette froissé. Vous ne penseriez pas, pour regarder la bosse non appétissante, que c'était certaines des choses les plus puissantes de l'univers connu.
@eliezerYudkowsky
Adorer un mystère sacré, c'était juste d'adorer votre propre ignorance.
@eliezerYudkowsky
Il avait rencontré d'autres prodiges en compétitions mathématiques. En fait, il avait été complètement battu par des concurrents qui ont probablement passé littéralement toute la journée à pratiquer des problèmes de mathématiques et qui n'aurait jamais lu un livre de science-fiction et qui s'épuiserait complètement avant la puberté et ne deviendrait jamais rien dans leur vie future parce qu'ils ' D a simplement pratiqué des techniques connues au lieu d'apprendre à penser de manière créative.
@eliezerYudkowsky
Si je pouvais créer un monde où les gens vivaient éternellement, ou au moins quelques milliards d'années, je le ferais. Je ne pense pas que l'humanité sera toujours coincée au stade maladroit que nous occupons maintenant, lorsque nous sommes assez intelligents pour créer d'énormes problèmes pour nous-mêmes, mais pas assez intelligents pour les résoudre.
@eliezerYudkowsky
Ai-je déjà remarqué à quel point il est complètement ridicule de demander aux élèves du secondaire de décider ce qu'ils veulent faire avec le reste de leur vie et de leur donner presque aucun soutien à le faire? Un soutien tel, disons, passer une journée chacun à regarder vingt emplois différents, puis une autre semaine dans leurs trois meilleurs choix, avec des graphiques salariaux et des projections et des probabilités de diplômé de ce sujet compte tenu de leurs résultats aux tests? Le plus important étant donné qu'il s'agit d'une question centrale d'allocation pour l'ensemble de l'économie?