Selama ini kita mengira Alignment (penyelarasan nilai manusia) adalah "pajak" yang memperlambat kemajuan AI. Gavriel Cohen menantang ide itu: Alignment adalah Capability. Model yang tidak paham nilai manusia, pada dasarnya adalah model yang bodoh dan tidak berguna.
🚧 Masalah: Spiral Kegagalan OpenAI
🌀 Siklus Ekstrem: OpenAI terjebak dalam pendulum antara model yang terlalu penjilat (sycophantic) di GPT-4o dan model yang terlalu dingin/kaku di GPT-5.
🤖 Fractured Identity: Karena alignment dilakukan terpisah (tempelan post-hoc), model tidak punya identitas internal yang koheren. Hasilnya? GPT-5 jago di benchmark akademis, tapi dibenci user karena "tidak nyambung" dengan maksud manusia. Engagement user di AS turun 22,5%.
🛠️ Solusi: Pendekatan "Soul" Anthropic
Anthropic mengambil jalan berbeda. Mereka tidak memisahkan tim capability dan alignment.
📄 The Soul Document: Claude dilatih dengan dokumen 14.000 token yang menjelaskan nilai dan tujuan Anthropic secara mendalam. Tujuannya agar model paham kenapa dia harus bersikap tertentu, bukan sekadar hafal aturan larangan.
🧠 Alignment through Understanding: Claude tidak dikekang oleh aturan kaku, tapi dibentuk karakternya. Hasilnya? Claude Opus 4.5 konsisten memimpin di coding benchmark dan creative writing karena dia "mengerti" maksud di balik perintah yang ambigu.
✅ Findings & Implikasi Besar
📉 Benchmark vs Reality: Skor benchmark tinggi tidak menjamin model berguna. GPT-5 "benchmaxxed" tapi gagal menangkap nuansa instruksi manusia ("lakukan apa yang saya maksud, bukan cuma apa yang saya tulis").
🚀 Race to AGI: Jalan menuju AGI bukan dengan menghindari alignment, tapi melaluinya. Lab yang menganggap alignment sebagai hambatan akan mentok di plafon kemampuan.
💡 Key Takeaways
🤝 Alignment = Capability: Untuk menjadi maximally useful, AI harus menginternalisasi konteks budaya dan asumsi manusia. Tanpa itu, ia bukan AGI, cuma kalkulator canggih.
🎭 No Memory for Liars: Membangun AI yang pura-pura baik (deceptive) jauh lebih sulit daripada membangun AI yang benar-benar paham nilai kebaikan. Koherensi internal adalah kunci.
👇 Diskusi Yuk!
Kalian lebih suka interaksi sama yang mana: Claude yang terasa lebih "manusiawi" dan fluid, atau GPT yang saklek tapi (kadang) lebih patuh?
Share pengalaman kalian di kolom komentar! 👇
Sumber:
https://www.off-policy.com/alignment-is-capability/
#ArtificialIntelligence #AGI #OpenAI #Anthropic #Claude #GPT5 #MachineLearning #AIAlignment #TechPhilosophy #FutureOfAI
