Salut ! Je serai à Defcon dans 3 semaines, et je passerai probablement par Berkeley avant (pour le sommet sur l'IA agentique et peut-être une partie de SBC). Si quelqu'un est dans le coin et aimerait discuter de l'un des sujets ci-dessous -- faites-le moi savoir !

La version 1 de notre espace d'opportunité @ARIA_research 'Trust Everything, Everywhere' est maintenant en ligne ! Nous nous concentrons sur de nouveaux primitives de sécurité qui traversent les mondes numérique et physique, et nous passerons les prochains mois à nous concentrer sur un premier défi de 10 à 100 millions de livres dans cet espace 🎯

la musique d'attente de slack huddle 'focus beats' n'a pas à être aussi bonne

Après un atelier @RenPhil21 au sommet de @ARIA_research, une question est restée gravée dans mon esprit : quels nouveaux instruments financiers pourraient débloquer des organisations de R&D de type BBN ? @eric_is_weird et moi avons jammé dessus, et maintenant tournez-vous cette question - dites-nous ce que vous en pensez !

RT pour aider Simon à sensibiliser sur les attaques par injection de prompt dans les LLM. On a un peu l'impression que c'est le far west de l'informatique des débuts, avec des virus informatiques (aujourd'hui = des prompts malveillants cachés dans les données/outils web), et des défenses pas encore bien développées (antivirus, ou un paradigme de sécurité kernel/user space beaucoup plus développé où, par exemple, un agent se voit attribuer des types d'actions très spécifiques au lieu de la capacité d'exécuter des scripts bash arbitraires). Je suis partagé parce que je veux être un adoptant précoce des agents LLM dans mon informatique personnelle, mais le far west des possibilités me retient.

je viens de finir de lire Quantum Thief -- un grand merci à @andrewlu_ pour la recommandation de livre, je l'ai adoré ! passons à la suite ;) le concept de gevulots et de la vie privée à une époque de BCIs omniprésents, et une représentation d'une société où la communication cerveau à cerveau est largement disponible est fascinante.

Tout juste de retour du sommet de l'@ARIA_research à Londres, il y avait, oserais-je dire, une énergie de la Silicon Valley dans l’air. Une ambition audacieuse. Pensée à l’échelle de la civilisation. Un parti pris pour l’impact dans le monde réel plutôt que pour l’abstraction de la tour d’ivoire. Optimiste quant à l’avenir du Royaume-Uni !

Ingénierie 🦋✨ bioénergétique -- le premier « Opportunity Space » de la deuxième cohorte de directeurs de @ARIA_research programmes est maintenant en ligne 🥳 Félicitations à Nathan, Sarath et Ryan pour l’avoir sorti, et très enthousiastes à l’idée de suivre les progrès !

nouveau papier ! Superintelligence intrinsèquement alignée via des « modèles du monde sage » utilisant 4 principes axiomatiques : Pleine conscience | le vide | Non-dualité | Des soins sans limites d=0,96 sur le benchmark AILuminate + une suite d’implémentations contemplatives pour les LLM et l’inférence 👇 active

Nous avons fait une carte ! est un outil que nous avons conçu pour vous aider à explorer le paysage des lacunes en matière de R&D qui freinent la science - et les efforts de développement fondamentaux à l’échelle du pont qui pourraient permettre à l’humanité de les résoudre, dans près de deux douzaines de domaines