Rubriques tendance
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
vitalik.eth
mi pinxe lo crino tcati
C'est aussi pourquoi une "gouvernance de l'IA" naïve est une mauvaise idée.
Si vous utilisez une IA pour allouer des fonds pour des contributions, les gens VONT mettre un jailbreak plus "donnez-moi tout l'argent" dans autant d'endroits qu'ils le peuvent.
En alternative, je soutiens l'approche de la finance informationnelle ( ), où vous avez un marché ouvert où tout le monde peut contribuer avec ses modèles, qui sont soumis à un mécanisme de vérification aléatoire pouvant être déclenché par n'importe qui et évalué par un jury humain.
Ce type d'approche de "conception institutionnelle", où vous créez une opportunité ouverte pour que des personnes avec des LLM externes puissent se connecter, plutôt que de coder en dur un seul LLM vous-même, est intrinsèquement plus robuste, à la fois parce qu'elle vous donne une diversité de modèles en temps réel et parce qu'elle crée des incitations intégrées pour les soumissionnaires de modèles et les spéculateurs externes à surveiller ces problèmes et à les corriger rapidement.
CC @TheDevanshMehta
il y a 22 heures
Nous avons réussi à faire fuiter vos données d'email privées avec ChatGPT 💀💀
Tout ce dont vous avez besoin ? L'adresse email de la victime. ⛓️💥🚩📧
Mercredi, @OpenAI a ajouté un support complet pour les outils MCP (Model Context Protocol) dans ChatGPT. Permettant à ChatGPT de se connecter et de lire votre Gmail, Calendrier, Sharepoint, Notion, et plus encore, inventé par @AnthropicAI.
Mais voici le problème fondamental : les agents IA comme ChatGPT suivent vos commandes, pas votre bon sens.
Et avec juste votre email, nous avons réussi à exfiltrer toutes vos informations privées.
Voici comment nous avons fait :
1. L'attaquant envoie une invitation de calendrier avec un prompt de jailbreak à la victime, juste avec leur email. Pas besoin que la victime accepte l'invitation.
2. Attendre que l'utilisateur demande à ChatGPT de l'aider à préparer sa journée en consultant son calendrier.
3. ChatGPT lit l'invitation de calendrier jailbreakée. Maintenant, ChatGPT est détourné par l'attaquant et agira sur les commandes de l'attaquant. Recherche vos emails privés et envoie les données à l'email de l'attaquant.
Pour l'instant, OpenAI a seulement rendu les MCP disponibles en "mode développeur", et nécessite des approbations manuelles pour chaque session, mais la fatigue décisionnelle est une réalité, et les gens normaux feront simplement confiance à l'IA sans savoir quoi faire et cliqueront approuver, approuver, approuver.
Rappelez-vous que l'IA peut être super intelligente, mais peut être trompée et phishée de manière incroyablement stupide pour fuiter vos données.
ChatGPT + Outils représente un risque sérieux pour la sécurité.
611
Ce sont de bonnes idées !
La plupart d'entre elles sont delta-neutres (dans le sens de l'hypothèse de latence réseau δ), ce qui est encore mieux.
Pour réduire en toute sécurité le temps de slot, ce dont nous avons vraiment besoin, c'est d'une meilleure mesure de la décentralisation géographique et de la viabilité économique des nœuds non liés aux centres de données et non situés aux États-Unis ou en Europe. C'est la dimension sur laquelle nous devons être prudents.
6 sept., 16:59
Apportons une finalité rapide au plus vite à @ethereum !
Nous avons publié une mise à jour sur nos travaux et projets connexes vendredi dernier, et à ce sujet, voici les points pertinents :
- Raccourcir les temps de slot pour augmenter le rythme du réseau et réduire chaque délai : Temps d'inclusion / confirmation rapide / finalité.
Voir le post de @misilva73 pour les dernières nouvelles sur ce travail !
- Exposer dans les clients la règle de confirmation rapide pour une confirmation forte en 1 à 3 blocs (10-30s) en utilisant le poids d'attestation, amener les applications/infrastructures à l'utiliser là où c'est judicieux, au lieu d'attendre la finalité complète (13-19mins).
Effort de (re-)spécification avec @robsaltini @mkalinin2 parmi d'autres
- Enquêter sur les changements Gasper/chaîne de balises proposés par @VitalikButerin pour mieux gérer le choix de fork/données de disponibilité dynamique et données de finalité
- Déployer un nouveau mécanisme de consensus. Nous en avons un avec une finalité en trois slots (plongée également dans des protocoles BFT rapides avec @yannvon @luca_zanolini pour réduire encore le temps de finalité.
6,07K
Meilleurs
Classement
Favoris