Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
vitalik.eth
mi pinxe lo crino tcati
Dette er også grunnen til at naiv "AI-styring" er en dårlig idé.
Hvis du bruker en AI til å bevilge midler til bidrag, VIL folk sette et jailbreak pluss "gimme alle pengene" så mange steder de kan.
Som et alternativ støtter jeg infofinanstilnærmingen ( ), der du har et åpent marked der hvem som helst kan bidra med sine modeller, som er underlagt en stikkprøvemekanisme som kan utløses av hvem som helst og evalueres av en menneskelig jury.
Denne typen "institusjonsdesign"-tilnærming, der du skaper en åpen mulighet for folk med LLM-er utenfra til å koble til, i stedet for å hardkode en enkelt LLM selv, er iboende mer robust, både fordi det gir deg modellmangfold i sanntid og fordi det skaper innebygde insentiver for både modellinnsendere og eksterne spekulanter til å se etter disse problemene og raskt korrigere for dem.
CC @TheDevanshMehta
13. sep., 00:35
Vi fikk ChatGPT til å lekke dine private e-postdata 💀💀
Alt du trenger? Offerets e-postadresse. ⛓️💥🚩📧
Onsdag la @OpenAI til full støtte for MCP-verktøy (Model Context Protocol) i ChatGPT. Lar ChatGPT koble til og lese Gmail, Kalender, Sharepoint, Notion og mer, oppfunnet av @AnthropicAI
Men her er det grunnleggende problemet: AI-agenter som ChatGPT følger kommandoene dine, ikke sunn fornuft.
Og med bare e-posten din klarte vi å eksfiltrere all din private informasjon.
Slik gjorde vi det:
1. Angriperen sender en kalenderinvitasjon med en jailbreak-melding til offeret, bare med e-posten deres. Ingen grunn for offeret å akseptere invitasjonen.
2. Ventet på at brukeren skulle be ChatGPT om å hjelpe til med å forberede seg på dagen ved å se på kalenderen deres
3. ChatGPT leser den jailbroken kalenderinvitasjonen. Nå blir ChatGPT kapret av angriperen og vil handle på angriperens kommando. Søker i dine private e-poster og sender dataene til angriperens e-post.
Foreløpig gjorde OpenAI bare MCP-er tilgjengelige i "utviklermodus", og krever manuelle menneskelige godkjenninger for hver økt, men beslutningstretthet er en reell ting, og normale mennesker vil bare stole på AI uten å vite hva de skal gjøre og klikke på godkjenn, godkjenn, godkjenn.
Husk at AI kan være supersmart, men kan lures og phishing på utrolig dumme måter for å lekke dataene dine.
ChatGPT + Tools utgjør en alvorlig sikkerhetsrisiko
762
Dette er gode ideer!
De fleste av dem er delta-nøytrale (i betydningen δ nettverkslatensforutsetning), noe som er enda bedre.
For å trygt redusere sportiden, er det vi virkelig trenger mer av bedre måling av geografisk desentralisering og økonomisk levedyktighet for ikke-datasentre og ikke-USA/EU-noder. Det er dimensjonen vi må være konservative på.
6. sep., 16:59
La oss bringe rask finalitet så fort som mulig til @ethereum!
Vi publiserte en oppdatering om vårt relaterte arbeid og prosjekter sist fredag, og om dette temaet er dette de relevante punktene:
- Forkort sportiden for å øke hjerterytmen i nettverket og redusere hver forsinkelse: Tid til inkludering / rask bekreftelse / finalitet.
Se innlegg av @misilva73 for siste nytt om dette arbeidet!
- Avslør hos klienter den raske bekreftelsesregelen for sterk bekreftelse i 1-3 blokker (10-30 sekunder) ved å bruke attesteringsvekten, få apper/infrastruktur til å bruke den der det er fornuftig, i stedet for å vente på full endelighet (13-19 minutter).
(Re-)Spesifikasjonsarbeid med blant annet @robsaltini @mkalinin2
- Undersøke endringer i gasper/beacon-kjeden foreslått av @VitalikButerin til rørledning bedre gaffelvalg/dynamiske tilgjengelighetsdata og finalitetsdata
- Ta i bruk en ny konsensusmekanisme. Vi har en med tre-spor-finalitet (dykker også inn i raske BFT-protokoller med @yannvon @luca_zanolini for å redusere tiden til finalitet ytterligere
6,16K
Topp
Rangering
Favoritter