Jaan Tallinn (né le 14 février 1972) est un programmeur et investisseur estonien devenu milliardaire qui a participé au développement du logiciel Skype, de l'application de partage de fichiers Kazaa et du protocole FastTrack. Jaan Tallin est une personnalité influente sur le sujet des risques existentiels, ayant cofondé le Centre for the Study of Existential risk et le Future of Life Institute. Talliin a investit tôt dans DeepMind et dans diverses autres entreprises d'intelligence artificielle.

Je plaisante parfois que je peux assumer la responsabilité personnelle de sauver un million de relations humaines.

Je suis né derrière le rideau en fer, et je me souviens des discussions chauffées sur les projets de formation en terre cuite à grande échelle, tels que l'inversion de la direction de la rivière OB ou la mise en place de grands réflecteurs dans l'espace pour chauffer la Sibérie.

Votre heuristique évolutive revient à l'idée d'un avenir à peu près similaire à ce qu'il est maintenant. Vous donnez à la communauté telle qu'elle est maintenant, au profit d'une communauté similaire à l'avenir.

La technologie continue de progresser. Les jeunes suivent la courbe. Mais à mesure qu'ils vieillissent, ils obtiennent une inertie et ils commencent à s'écarter de cette courbe.

Il n'y a pas de pénurie de faits embarrassants sur les soins de santé, et les gens meurent tous les jours aux États-Unis en raison d'erreurs évitables - pourriez-vous voler des avions si vous saviez que plusieurs d'entre eux abandonneraient le ciel tous les jours?

J'avais la vision du monde très standard. Je peux facilement m'identifier aux personnes qui voient des ordinateurs devenir plus rapides et plus intelligents, et la technologie devient de plus en plus bénéfique, sans voir l'autre côté.

Si vous démarrez un nouveau pays dans les années 1990, vous avez l'avantage de rédiger de nouvelles lois avec le fait que l'Internet est là-bas.

Les plans d'incitation, par lesquels les personnes qui ont fait le plus de bien pour l'humanité sont récompensées 20 ans dans le futur, créeraient l'attente que faire du bien à long terme est précieux.

Une fois que nous avons quelque chose qui n'est plus sous contrôle, une fois que le développement technologique est retiré de nos mains, il n'a pas besoin de continuer à être bénéfique pour l'homme.

Une fois que les ordinateurs peuvent programmer, ils prennent essentiellement les progrès technologiques, car déjà, aujourd'hui, la majorité des progrès technologiques est géré par des logiciels, par programmation.

Nous n'avons pas exactement les intérêts opposés aux chimpanzés. Cependant, les choses ne recherchent pas les chimpanzés, car nous contrôlons leur environnement. Nos intérêts ne sont pas parfaitement alignés avec les leurs, et il s'avère qu'il n'est pas facile d'aligner les intérêts.

La construction d'une IA avancée, c'est comme lancer une fusée. Le premier défi consiste à maximiser l'accélération, mais une fois qu'il commence à ramasser la vitesse, vous devez également vous concentrer sur la direction.

À mon avis, le fait que les ordinateurs rattrapaient les humains et dominent complètement les humains dans les échecs et certains autres domaines, qui dit qu'il existe des preuves que, oui, en principe, ils peuvent être de meilleurs programmeurs que les humains.

Je suis moi-même aussi un petit investisseur dans Slack, et on peut compter quatre à cinq plates-formes IM qui ont été lancées par les anciens de Skype.

Il est peu probable que le contrôle de puissante l'IA au plus offrant conduit au meilleur monde que nous pouvons imaginer.

Une fois que vous reconnaissez que les cerveaux humains sont essentiellement faits d'atomes et que vous reconnaissez que les atomes sont régis par de simples lois de la physique, il n'y a aucun principe de raisonnement pourquoi les ordinateurs ne pouvaient rien faire que les gens font, et nous ne voyons vraiment aucune preuve que ce n'est pas le cas.

Ça craint vraiment d'être les deux espèces intelligentes sur cette planète; Vous pouvez simplement demander des gorilles.

La honte des gens pour être vertueuses ne change pas de comportement.

La chose intéressante à propos de la blockchain est qu'il a permis à l'humanité d'atteindre un consensus sur un morceau de données sans avoir aucune autorité pour le dicter.

La principale raison pour laquelle j'ai soutenu DeepMind était stratégique: je vois mon rôle de combler les communautés de recherche sur l'IA et de sécurité de l'IA.

https://fr.wikipedia.org/wiki/Jaan_Tallinn

Ses oeuvres