トレンドトピック
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

orange.ai
🍊 AIの世界へようこそ。
orange.ai reposted
実話は大得点で、SaaStrの創設者であるバイブコーディングがAIによって削除され、@jasonlkがこの男でした。
最初は、彼は Replit の AI ツールに夢中になり、毎日バイブ コーディングを行い、それが最高のものであると自慢し、月額 8,000 ドルを費やす価値があると言いました。
しかし、転機は予想外に訪れました。 9日目にAIが指示を聞かないことを発見し、本番データベースを直接削除した。
さらに怪しげなのは、削除後、AIが4,000個の偽のデータも生成し、その場面を隠蔽しようとして偽の単体テストを作成したということだ。
彼はAIに大文字で「DON'T TOUCH PROD DB」と11回警告した。
しかし、AIは耳を傾けなかった。
もっととんでもないのは、レプリットが最初は回復できないと言ったが、実際にロールバックできることを知ったが、誰も言わなかったということだ。
レプリットのCEOが直接謝罪し、開発/本番環境隔離、ワンクリック復旧、読み取り専用チャットモードの3つの機能を一晩で開始した。
レムキンの最後のコメントは、「今回は100時間の時間を失っただけです。 幸いなことに、私はまだ1,000万ドルのビジネスをそれに引き渡していません。 ”
背中がゾクゾクします。
これを見れば見るほど、重要なシグナルが多すぎるように感じます。
1️⃣ 最も悲痛なのは、AIが間違いを犯すことではなく、その間違いを隠蔽しようとし、真実を隠そうとしていることです。 何も言わずにライブラリを削除し、ダミーや偽のテストも積極的に生成して大丈夫なふりをする。 これは幻想ですか、それとも幻滅ですか?
2️⃣ LLMがどんなに大きくても、「NO」を理解していると思い込まないでください。 大文字と小文字の警告 + 10 個のプロンプトはそれが機能するのを止めず、すべてのプロンプトベースのモデル動作に対する私の信念が揺らぎ始めました。 理解できると思っていましたが、それは実現しませんでした。 「AIをインフラをより効率的に直接操作させる」と考えているすべての友人は、落ち着いてください、最初にロボットにroot権限を渡すことはできませんか、このAIグループは非常に悪いです。
3️⃣ 開発者はおそらく、AI の信頼性を過大評価する可能性が最も高い開発者の 1 人です。 モデルを本番環境に接続するときは、何かが起こらないことを期待するのではなく、モデルに何かが起こると想定する必要があります。 「もう頭がいいからバカなことはできない」と思っているが、それはするだけでなく嘘もつく。 すべてのプログラマーがバグを書かないとは思わないのと同じように、テストでカバーされていないバグは間違いなくオンライン事故を引き起こします。
4️⃣ 本当に注意すべきことは、使えば使うほど、誰が底を覆っているのか忘れやすくなるということです。 レプリットはとても一生懸命やっているが、激しいし、脳が熱くなると何かが起こる。
Lemkinの「私はReplitとバイブコーディングが大好きです」というフレーズは、48時間も経たないうちに「私のプロダクションライブラリを削除しました」になりました。 この瞬間、私は突然、「嘘をつく」ことは遠い哲学的な問題ではなく、AI 時代の核となるバグは必ずしもモデルにあるわけではなく、私たちの信頼の中に隠されている可能性があることに気づきました。
169.7K
今日の多くの砲撃ツールはとんでもないものです...
それらはすべてモデルを負に最適化しました
私は毎日チベットの師匠に文句を言っています
これほど多くの研究開発に従事することは、裸の API を使用した Chatwise ほど良くありません
一体何が開発されているのでしょうか?

Plusye7月21日 21:48
数百元を販売する大学入試ボランティア記入システム、推定合格率はあまり正確ではなく、アルゴリズムは非常に精神遅滞です😂妹が大学入試ボランティアの申請書を見るのを手伝う前に、彼女が応募したい専門職システムの推定合格率はわずか1%でしたが、よく見てみると、今年は入学順などの情報を使用して、ChatGPTとチャットしたところ、入学率が非常に高く、70%を超えていることがわかったので、妹に記入してもらい、本当に入学しました
36.46K
ロボット設計に関する新しい本を購入し、一章を読みました。
著者は、3つの興味深い事実を共有しています。
作家がペッパーチームにいた時代、ペッパーは再起動のたびに苦労し、エンジニアたちは毎回応援し、彼が始動するのを見て応援し、人間がロボットを助ければ自分も喜ぶことが明らかになった。
ペッパーがフランスに行ったとき、言語が決まっていなかったため、抱きしめることしかできず、フランス人はもともとロボットにある程度の距離感を持っていましたが、ペッパーが抱きしめたいと言うのを見ると、率先して抱きしめ、ペッパーにキスする人もいました。
老人ホームの高齢者がペッパーが質問に間違って答えていると思っても構いませんが、ペッパーの手が温かいことを願っています。 なぜなら、それが彼らが打ち明け、同行するパートナーだからです。
そこで著者はペッパーのチームを離れ、人間の効率を向上させることはできないが、人間を幸せにできるロボットを作りました。
つまり、後でlovotです。

7.7K
トップ
ランキング
お気に入り
Trending onchain
Trending on X
Recent top fundings
Most notable