🚨 CISA: ΠΊΠΈΡ‚Π°ΠΉΡΡŒΠΊΡ– AI-ΠΊΠΎΠΌΠΏΠ°Π½Ρ–Ρ— ΠΏΡ€ΠΎΠ²ΠΎΠ΄ΠΈΠ»ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π½Π΅ отримання Ρ‚Π° ΠΊΠΎΠΏΡ–ΡŽΠ²Π°Π½Π½Ρ моТливостСй Π°ΠΌΠ΅Ρ€ΠΈΠΊΠ°Π½ΡΡŒΠΊΠΈΡ…

CyberPeople

CyberPeople

@cyberpeople

ΠšΡ–Π±Π΅Ρ€Π±Π΅Π·ΠΏΠ΅ΠΊΠ° For ideas and cooperation ping @onasibullina

3Β 886 підписників
Π’Ρ–Π΄ΠΊΡ€ΠΈΡ‚ΠΈ Π² Telegram
🚨 CISA: ΠΊΠΈΡ‚Π°ΠΉΡΡŒΠΊΡ– AI-ΠΊΠΎΠΌΠΏΠ°Π½Ρ–Ρ— ΠΏΡ€ΠΎΠ²ΠΎΠ΄ΠΈΠ»ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π½Π΅ отримання Ρ‚Π° ΠΊΠΎΠΏΡ–ΡŽΠ²Π°Π½Π½Ρ моТливостСй Π°ΠΌΠ΅Ρ€ΠΈΠΊΠ°Π½ΡΡŒΠΊΠΈΡ… AI-ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ

CISA, NSA Ρ‚Π° FBI заявили, Ρ‰ΠΎ Ρ‰ΠΎΠ½Π°ΠΉΠΌΠ΅Π½ΡˆΠ΅ Π· кінця 2024 Ρ€ΠΎΠΊΡƒ DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun Ρ‚Π° Z.AI систСматично ΠΎΡ‚Ρ€ΠΈΠΌΡƒΠ²Π°Π»ΠΈ ΠΌΡ–Π»ΡŒΡΡ€Π΄ΠΈ Ρ‚ΠΎΠΊΠ΅Π½Ρ–Π² Ρ‡Π΅Ρ€Π΅Π· ΠΌΡ–Π»ΡŒΠΉΠΎΠ½ΠΈ Π·Π°ΠΏΠΈΡ‚Ρ–Π² Π΄ΠΎ frontier-ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ, Π·ΠΎΠΊΡ€Π΅ΠΌΠ° Claude, GPT, Gemini Ρ‚Π° Grok.

Π¦Π΅ Π±ΡƒΠ»Π° Π½Π΅ просто distillation, Π° промислова опСрація Π· отримання Ρ‚Π° відтворСння моТливостСй ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ.

Π―ΠΊ Ρ†Π΅ ΠΏΡ€Π°Ρ†ΡŽΠ²Π°Π»ΠΎ:

β†’ числСнні Π°ΠΊΠ°ΡƒΠ½Ρ‚ΠΈ Ρ‚Π° API;
β†’ cloud-ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€ΠΈ ΠΉ third-party aggregators;
β†’ проксі Ρ‚Π° Β«transfer stationsΒ» для ΠΎΠ±Ρ…ΠΎΠ΄Ρƒ обмСТСнь;
β†’ тисячі ΠΉ ΠΌΡ–Π»ΡŒΠΉΠΎΠ½ΠΈ схоТих Π·Π°ΠΏΠΈΡ‚Ρ–Π²;
β†’ Π·Π±Ρ–Ρ€ Π²Ρ–Π΄ΠΏΠΎΠ²Ρ–Π΄Π΅ΠΉ Ρƒ synthetic training datasets.

ΠžΠΊΡ€Π΅ΠΌΠΎ використовували prompt injection Ρ‚Π° jailbreak, Ρ‰ΠΎΠ± змусити ΠΌΠΎΠ΄Π΅Π»Ρ– Ρ€ΠΎΠ·ΠΊΡ€ΠΈΠ²Π°Ρ‚ΠΈ ΠΏΡ€ΠΈΡ…ΠΎΠ²Π°Π½Π΅ Chain-of-Thought reasoning. Π¦Π΅ дозволяло ΠΎΡ‚Ρ€ΠΈΠΌΡƒΠ²Π°Ρ‚ΠΈ Π½Π΅ лишС Π²Ρ–Π΄ΠΏΠΎΠ²Ρ–Π΄Ρ–, Π° ΠΉ Π΄Π°Π½Ρ– ΠΏΡ€ΠΎ способи reasoning, coding Ρ‚Π° agentic tasks.

Показово, Ρ‰ΠΎ Π°Ρ‚Π°ΠΊΡƒΡŽΡ‡Ρ– Π°Π²Ρ‚ΠΎΠΌΠ°Ρ‚ΠΈΡ‡Π½ΠΎ пСрСвіряли ΡΠΊΡ–ΡΡ‚ΡŒ Π²Ρ–Π΄ΠΏΠΎΠ²Ρ–Π΄Π΅ΠΉ Ρ– адаптувалися Π΄ΠΎ захисту. Наприклад, MiniMax ΠΏΠ΅Ρ€Π΅Π½Π°ΠΏΡ€Π°Π²ΠΈΠ² Π·Π°ΠΏΠΈΡ‚ΠΈ Π½Π° Π½ΠΎΠ²Ρƒ Claude-модСль протягом 24 Π³ΠΎΠ΄ΠΈΠ½ після Ρ—Ρ— Ρ€Π΅Π»Ρ–Π·Ρƒ.
Π’Ρ–Π΄ΠΊΡ€ΠΈΡ‚ΠΈ пост Π² Telegram