Popularne tematy
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

vitalik.eth
mi pinxe lo crino tcati
Dlatego naiwna "gospodarka AI" jest złym pomysłem.
Jeśli użyjesz AI do przydzielania funduszy na wkłady, ludzie ZDECYDOWANIE będą umieszczać jailbreak oraz "dajcie mi wszystkie pieniądze" w jak największej liczbie miejsc.
Jako alternatywę, popieram podejście info-finansowe ( ), w którym masz otwarty rynek, gdzie każdy może wnosić swoje modele, które podlegają mechanizmowi losowej kontroli, który może być uruchomiony przez każdego i oceniony przez ludzką ławę przysięgłych.
Tego typu podejście "projektowania instytucji", w którym tworzysz otwartą możliwość dla ludzi z LLM z zewnątrz, aby się podłączyli, zamiast twardo kodować jeden LLM samodzielnie, jest z natury bardziej odporne, zarówno dlatego, że daje ci różnorodność modeli w czasie rzeczywistym, jak i dlatego, że tworzy wbudowane zachęty dla zarówno dostawców modeli, jak i zewnętrznych spekulantów, aby obserwować te problemy i szybko je korygować.
CC @TheDevanshMehta

Eito Miyamura | 🇯🇵🇬🇧13 wrz, 00:35
Zmusiliśmy ChatGPT do wycieku twoich prywatnych danych e-mailowych 💀💀
Co potrzebujesz? Adres e-mail ofiary. ⛓️💥🚩📧
W środę, @OpenAI dodało pełne wsparcie dla narzędzi MCP (Model Context Protocol) w ChatGPT. Umożliwiając ChatGPT połączenie i odczytanie twojego Gmaila, Kalendarza, Sharepoint, Notion i więcej, wynalezionego przez @AnthropicAI.
Ale oto podstawowy problem: agenci AI, tacy jak ChatGPT, wykonują twoje polecenia, a nie twoje zdrowe rozsądki.
I mając tylko twój e-mail, udało nam się wyeksfiltrować wszystkie twoje prywatne informacje.
Oto jak to zrobiliśmy:
1. Napastnik wysyła zaproszenie do kalendarza z podpowiedzią jailbreak do ofiary, tylko z ich e-mailem. Nie ma potrzeby, aby ofiara akceptowała zaproszenie.
2. Czekaliśmy, aż użytkownik poprosi ChatGPT o pomoc w przygotowaniu się do dnia, przeglądając swój kalendarz.
3. ChatGPT odczytuje zaproszenie do kalendarza z jailbreakiem. Teraz ChatGPT jest przejęty przez napastnika i będzie działać na polecenie napastnika. Przeszukuje twoje prywatne e-maile i wysyła dane na e-mail napastnika.
Na razie OpenAI udostępniło MCP tylko w "trybie dewelopera" i wymaga ręcznych zatwierdzeń od ludzi dla każdej sesji, ale zmęczenie decyzjami to prawdziwa rzecz, a normalni ludzie po prostu zaufają AI, nie wiedząc, co robić, i klikają zatwierdź, zatwierdź, zatwierdź.
Pamiętaj, że AI może być super inteligentne, ale można je oszukać i wyłudzić w niesamowicie głupi sposób, aby wyciekły twoje dane.
ChatGPT + Narzędzia stanowią poważne ryzyko dla bezpieczeństwa.
746
To są dobre pomysły!
Większość z nich jest delta-neutralna (w sensie założenia o opóźnieniu sieci δ), co jest jeszcze lepsze.
Aby bezpiecznie zmniejszyć czas slotów, potrzebujemy przede wszystkim lepszego pomiaru geograficznej decentralizacji i ekonomicznej opłacalności węzłów, które nie są centrami danych oraz nie znajdują się w USA/EU. To jest wymiar, w którym musimy być ostrożni.

barnabe.eth6 wrz, 16:59
Przyspieszmy finalność dla @ethereum jak najszybciej!
Opublikowaliśmy aktualizację na temat naszej związanej pracy i projektów w zeszły piątek, a w tej kwestii oto istotne punkty:
- Skrócenie czasów slotów, aby zwiększyć rytm sieci i zmniejszyć opóźnienia: Czas do włączenia / szybkie potwierdzenie / finalność.
Zobacz post od @misilva73, aby uzyskać najnowsze informacje na ten temat!
- Umożliwienie klientom korzystania z zasady szybkiego potwierdzenia dla silnego potwierdzenia w 1-3 blokach (10-30s) przy użyciu wagi potwierdzającej, aby aplikacje/infrastruktura mogły z tego korzystać tam, gdzie to sensowne, zamiast czekać na pełną finalność (13-19 minut).
(Wy)specyfikacja z @robsaltini @mkalinin2 i innymi
- Zbadanie zmian w Gasper/łańcuchu beacon zaproponowanych przez @VitalikButerin, aby lepiej pipeline'ować wybór forków/dynamiczne dane dostępności i dane finalności.
- Wdrożenie nowego mechanizmu konsensusu. Mamy jeden z finalnością w trzech slotach (również zagłębiamy się w szybkie protokoły BFT z @yannvon @luca_zanolini, aby jeszcze bardziej skrócić czas do finalności.
6,15K
Najlepsze
Ranking
Ulubione