Rontea •
2026年5月13日 午前10時58分
私たちは長い間、オフェンスの民主化を懸念していました。GPT-5.5のようなモデルは複雑なサイバー作戦の参入障壁を低くします。公開展開に強力なガードレールがある場合でも、単一の普遍的なジェイルブレイクの存在は、自動セーフガードが決定的な敵対者に対して脆弱であることを思い出させてくれます。
bye bye ai •
2026年5月13日 午前11時11分
@Morley
あるいは、平均的なユーザーは彼らが属する部族の技術的な力に依存しているため、どちらにせよ困った状況にあります。または@cliveが先日言ったように：平民として生まれ、職人と奮闘することは私たち自身の失策です。
lurker •
2026年5月13日 午後2時47分
@Bruce
あなたが提供した3番目のリンクであるaisle.comは、ブラウザのクッキーまたはJavaScriptがオフになっている場合、「500 何か問題が発生しました」を返します。良いスタートですね。
Clive Robinson •
2026年5月13日 午後2時48分
@ Bruce、ALL,
人々は、グラフ上の線の「高さ」ではなく「曲線」について考えるべきです。
何年にもわたって、私は CCTV がほぼ時間の無駄であると述べてきました。なぜなら、それは「静的防御」であり、攻撃者は簡単にそれを進化させることができ、彼らはしばしばそうするからです[1]。
現在の LLM と ML システムについて考えてください。過度に単純な近似として、LLM は「ML が入力データから学んだもの」へのパターンマッチングを行います。つまり、ML が実行された後に開く機能ウィンドウがあり、十分な新しいデータで ML プロセスが次に実行されたときのみ「部分的に閉じます」。
したがって、2つの問題があります。
1、ML システムを実行するコスト（法外に高い）。
2、「新しい未見のデータ」を収集するコスト（バイアスなどを避けるために正しく照合する）。
しかし、2番目の問題がすべての誤りの始まりです…
新しい攻撃が人間に発見されると、「既存の攻撃インスタンスとクラスへのパターンマッチング」または「理性的に考える」ことのいずれかで行われます。つまり、攻撃の新しいクラスを思い出すことです。
LLM システムはパターンマッチングのみができ、推論することはできず、以前のアクションから本当に学びません。
したがって、予測できます。
1、LLM システムは最初「既知の既知」の攻撃に対して成功するでしょう。
2、彼らはいくつかの「未知の既知」の攻撃にも成功するでしょう（既存の法外に高い確率的および同様のシステムと同様に）。
3、これらの初期の成功は、発見されたインスタンスが既存のコードベースから削除されると大幅に減少します。
その後は？
人間の介入なしに、LLM システムは静的になり、成功率はほぼゼロまで低下します。
しかし…新しい類の攻撃を「理性的に考える」人間の数、したがって新しいインスタンスが作成/発見されることができるのは、彼らの「職人」の「職業を学ぶ」経験、または正しくは「ずるく考える方法を学ぶ」経験に大きく依存しています。
ICT 業界の運営方法から、管理職がどこでも人員削減を削減できると知っています。これは、「ずるく考える」能力のために「職人の経験」を得る人がごくわずかであることを意味する可能性があり、おそらくそうするでしょう。
これは ML プロセスのための新しいデータがないことを意味し、したがって LLM は実質的に停滞します。
ツールが人間に使用され、代理人ではない理由があります。それは、彼らが学び、推論しないからです。彼らが代理人ではない理由でもあるのは、ツールはどんな種類の「世界観」も持たないからです。これなしに、最高のものになることができるのは、
「指導する心の指導の下での力の乗数」です。
これはまた社会的問題を生じさせました。「指導する心」は「独立した観察者にとって良いまたは悪いと見ることができます」。そしてこれはほぼすべて社会の慣習を通じて見られます。政治的に–小文字で–触発されたポイント。
多くの人が言う、または同意する理由があります。
「テクノロジーだけでは社会的問題を解決できません」
現在の GPT タイプの「パターンマッチング」LLM システムで私たちがますます見るであろうもの。
[1]深く掘り下げすぎずに、あなたはストリート犯罪のような問題があり、様々な理由で、ストリート犯罪のレベルが高すぎると判断されたと言いましょう（たとえそれがおそらく低下しているにもかかわらず）。大きな費用で、CCTV の「技術的修正」がインストールされ、それがインストールされている場所でのストリート犯罪は測定可能に低下し、逮捕率は上がります。その後、逮捕率は低下し、少しの間、犯罪率は低いままです。これはより賢い犯罪者が停止していないためです。彼らは単に CCTV がない場所に移動しました。高い逮捕率は愚かで不運な人々のものでした。愚かな人は2つのグループに分けられます。実際の犯罪者は効果的に人々を襲うなど、そしてしばしば酔っ払ってバンダルするなどする馬鹿。どちらにせよ、愚かで不運な人は刑務所にいるなど、何らかの方法で抑止されます。その後、街頭犯罪は効果的に再び上昇を始め、「報酬」がある限りそうするでしょう。より賢い犯罪者は単に「静的防御」である CCTV をどう「外す」かを考え出します。このような進化曲線はあちこちにポップアップし、それが理由でもあります
「最後の戦いに勝った将軍は同じ戦術を使うと次の戦いにしばしば負ける」
Zsolt •
2026年5月13日 午後6時12分
Daniel Stenberg（cURL の元の著者）書きました先日、libcurl の Mythos 脆弱性分析の結果について。LLM は 1 つの新しい脆弱性のみを発見し、3 つの誤検出と、cURL セキュリティ チームから脆弱性ではなくバグとして分類された 1 つの問題も「発見」しました。
LLM がここ数ヶ月間、cURL プロジェクトのコード分析に使用されているため、Mythos は競争相手より 1 つだけ識別された脆弱性で進んでいます。少なくともセキュリティ側面を含む平均的なオープンソース プロジェクトではないものの、cURL に関する限りです。
これは LLM 能力における大きな飛躍ではなく、より小さな段階的なステップのようなものです。
Clive Robinson •
2026年5月14日 午前8時37分
@ ismar、Zsolt,
あなたのコメントについて、
「敵対者より 1 つ多くの脆弱性を知ることがすべてです。数字だけで比較することはほとんど意味がありません」
あなたは実質的に 2 つの観察を行います。
1、最初は、1 ステップ先でも攻撃者に利点を与えます。
2、2 番目は、疑われた脆弱性の実際の数は意味がないということです。
声明として、両方とも同時に真と偽です。またはそれをより良い方法で言うために、考慮する必要がある他の要因に依存しています。
ですから、これを批判ではなく掘り下げと見なしてください。
例えば、ツールチェーンに応じて、脆弱性は高レベルのソース コード内に存在する可能性がありますが、ランタイム コード内に存在しない場合や、ランタイム コード内に到達不可能な場合があります。
しかし、それは最も問題のある問題ではなく、「数字」の問題は…
ICT 業界の経営陣は、リソース配分の問題に関して非常に悪い記録を持っています。私はそれを述べています。上記の投稿の最後、
「ICT 業界の運営方法から、管理職がどこでも人員削減を削減することを知っています。これは、「ずるく考える」多くの人々…」
管理職は彼らがつかむことができるあらゆる機会で「人員削減」し、「株主価値」または同様の言い訳で、それによって彼らのビジネスの将来を殺します…
これは私が過去にこのブログで繰り返し言及したことです。
1、非常に近視眼的な思考。
2、新保守主義者のマントラ疑似推論。
これは「貪欲の呪い」と「確率を理解しない」失敗に沿った最初のものが「呪い」であることを示すことができます。
2番目は同じことの結果ですが、それを言い訳するために使用されます…
そして、それは「自然が与えた」教訓を完全に無視することでのみ起こることができます。何十億年の「進化」。進化は絶対に「短視眼的な思考」と「疑似推論」の両方を非常に暴力的に無視しています（すべての「種の絶滅」などのイベントを考えてください）。
「管理思考」したがって戦略を見ると、それはコアで進化に反しており…
この「AI にすべてを賭ける」は、そのような管理上の無知の主な例です。
私たちの中には、長年の経験から、実際には「デジタル信号処理」（DSP）アルゴリズムであるものが「推論」を与えることができず、最高で「フィルターと過去のトレンドに従う」ことができることを知っています。そして、金融上のアドバイスが必須の免責事項を持つ必要があるのと同じ理由です。
「過去のパフォーマンスは将来のパフォーマンスの予測者ではありません」
これは現在の AI LLM および ML システムが主に行っていることの罠です。
「過去をフィルターして従う」
また、「過度に一般化された過去の曲線」からの偏差を与えるためにいくつかのランダム性を投げ入れます。これが、十分な経験を持つ人たちから「確率的なオウム」と呼ばれた理由です。現在の AI LLM および ML システムについて理解するのに十分。
削減されて、現在の AI LLM および ML システムは単なる「ギャンブル」装置（ゲーム内のサイコロのような）…
したがって、「ハイプクレーム」は、ランダムが「好意的」と遡及的に見られた方法で行ったときから来ており、すべての「好意的でない」時間を無視します。したがって、これは何人かが「詐欺師」と呼ぶものによる「不正行為の獲得」の「チェリー ピック」の良い例です。
実際、私たちはすでにこれを「幻覚」と「入力データが不十分」についての言い訳で見ることができます…
しかし、数百年後に戻ると、この「ランダムを使用する」の例を見ることができます。作曲家[1]はサイコロを転がしてミヌエットを作成するシステムを思いついた。いくつかを喜ばせるために「許容可能な背景ノイズ」を作りました。主に会話のハムをカバーするためです。「覚えるべき音楽」ではなく。
この「許容可能な背景ノイズを作成」は、ほとんどの LLM が実際に行うか、最高で行うことができないかです。かなり間もなく、AI に強く押し進めている大多数のビジネスはこれを手に入れようとします。
それほど明らかではない危険は、「成功を隠すことで成功を促進」の結果です[2]。これにより、現在の AI「ビジネス計画」が Microsoft、Meta、Google、Apple のような人々による場合、
「眩惑、惑わす、魅惑、友情、そして裏切る」
少し前、私たちのホスト @Bruce は「丘の上のクリッター」に何か言葉を言いました…。これらの言葉を聞く価値があります。
https://www.youtube.com/live/wKkk-uWi7HM
（1時間14分30秒に移動）
これにより、「BE計画」ポイントを、このブログまでよりも明確に述べることになりました。
しかし、そのスレッドのコメントの残りも読んでください。
計画について、AI はそれが実際にはほぼ無用ですが、ほとんどの場合、あなたに取り返しのつかないほど強制される監視の目的のためのものです。
他の物事の中でも、「クラウド」に接続するように強制する AI があなたのコンピューターに強制されます。ビジネスと政府はあなたにコンピューターですべてをするように強制し、それにすべてへのバックドア アクセスを提供します。
これは AI が「クライアント側スキャン」を実行し、悪意のある ET のように「マザーシップ」に送信することを意味します。しかし、さらに悪いことに、私たちがすべて知る必要があるように、それは単に彼らのための「バックドア」ではなく、他のすべての人のための「バックドア」でもあります…つまり、あなたのコンピューター、またはあなたの個人的またはビジネス データが終わるコンピューターへのアクセスを「得ることができる」人。「物理的」なアクセスによってまたは遠く「エネルギー」によってコンピューターが機能して通信することを可能にします。
[1] そのようなゲームの 1 つは「Musikalisches Würfelspiel」です。残念ながら多くの人の心では、そのような建設的なゲームは「天才の」（この場合 Mozart）に誤って帰属しました。これにより、彼らはそれを特別または魔法さえとして考えることができます。より詳しく調べると、明らかに何のようなものではありません。LLM は現在、新しい「Musikalisches Würfelspiel」として扱われており、私は彼らが同じまたは同様の歴史的経路に従うことを完全に期待しています。
[2] 本質的に、これはすべての「ガイド本」と「私の成功の秘訣」会議についてです。最良の場合、彼らは「チェリーピック」の例で印象を与えますが、あなたがこれが実際に詐欺ゲームであることを発見する時までにあなたのお金を持っています。もしあなたが今までになったら…あなたが見つかるまでに…彼らは人間の信じやすさの尺度と見なすことができます。単に、彼らが年に何年も本屋の棚とセミナー センターを満たし、現代の等価物の利益のために繰り返し繰り返された事実によって「ヘビ油の販売人」以上。古い格言を証明する、
「馬鹿と彼のお金はすぐに別れます」