Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Perkembangan Teknologi AI Mendorong Anthropic Memperjelas Batas Penggunaan

Pengembang model Claude Anthropic memperkenalkan pembaruan penting dalam Usage Policy yang mengatur penggunaan Claude. Pengumuman tersebut dipublikasikan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Berdasarkan pengumuman Anthropic, banyak ketentuan terbaru dimaksudkan untuk menjabarkan larangan sebelumnya. Hal ini dilakukan karena penggunaan kecerdasan buatan dalam pekerjaan yang lebih kompleks. Dengan semakin luasnya pemanfaatan AI dalam kehidupan sehari-hari, tantangan keamanan memerlukan perhatian lebih besar.

Dalam perkembangan sebelumnya, penggunaan model bahasa umumnya berfokus pada mengolah informasi berbasis teks. Dalam ekosistem AI modern, agen kecerdasan buatan dirancang agar mampu menyelesaikan pekerjaan bertahap. Perkembangan ini memberikan manfaat produktivitas, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika agen AI memperoleh akses yang tidak sesuai. Dengan mempertimbangkan perubahan kemampuan model, Anthropic memperjelas sejumlah larangan agar organisasi dapat menerapkan kontrol yang sesuai. Pedoman terbaru itu tidak berarti seluruh aktivitas AI baru dilarang, melainkan memperjelas aktivitas yang tidak diperbolehkan.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Penyesuaian yang mendapat perhatian adalah penegasan larangan terhadap operasi yang menyesatkan. Anthropic menetapkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mempertegas ketentuan terhadap operasi pengaruh menggunakan akun palsu. Melalui aturan ini, Claude tidak diperkenankan membantu menjalankan kampanye manipulatif. Larangan tersebut mencakup kampanye bisnis serta politik. Sebagai contoh, pengelolaan jaringan posting palsu dapat termasuk aktivitas terlarang apabila dimaksudkan menyembunyikan pelaku sebenarnya. Berkat aturan yang lebih jelas, pengembang memperoleh panduan mengenai batas otomatisasi komunikasi.

Selain mengatur kampanye manipulatif, Anthropic turut menyempurnakan ketentuan yang menyangkut aktivitas politik. Bagian tersebut telah diberi judul Do Not Undermine Democratic Processes untuk memperjelas pencegahan gangguan terhadap proses pemungutan suara. Aktivitas yang tidak diperbolehkan antara lain upaya menyesatkan warga mengenai cara memilih. Di sisi lain, Anthropic tidak lagi menerapkan pembatasan umum terhadap penargetan pesan pemilu secara umum. Penyesuaian tersebut dimaksudkan agar penyampaian informasi demokrasi yang bermanfaat. Sekalipun penggunaan tertentu diperbolehkan, aktivitas menyesatkan tetap berada dalam batas larangan.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Untuk mencegah penggunaan berbahaya, Anthropic memperjelas larangan pengembangan senjata menggunakan Claude. Perusahaan menjelaskan bahwa larangan juga berlaku pada komponen pendukung persenjataan. Perangkat lunak pengendali merupakan bagian dari aktivitas yang dilarang. Dalam penerapan tertentu, pengembangan perangkat lunak untuk mengendalikan senjata tidak diizinkan. Mengacu pada pembaruan kebijakan, perincian tersebut menjelaskan cara larangan sebelumnya telah diterapkan. Oleh karena itu, pengembang perlu mengevaluasi fungsi perangkat lunak yang dikembangkan.

Pada penggunaan teknologi pemantauan, Anthropic menegaskan larangan terhadap pengawasan orang yang tidak memberikan izin. Pembatasan tersebut mencakup pengawasan waktu nyata dan analisis rekaman terdahulu. Tidak hanya terkait pelacakan, Claude dilarang digunakan dalam rekomendasi penangkapan individu dalam proses penegakan hukum. Walaupun terdapat pembatasan ketat, analisis tertentu yang dilakukan secara legal tidak otomatis dilarang. Aktivitas yang dijelaskan perusahaan meliputi penelitian hukum dan kegiatan jurnalistik. Penjelasan ini membantu memperjelas penyalahgunaan yang melanggar privasi.

Anthropic Menetapkan Pengawasan Manusia pada Penggunaan Claude Berisiko Tinggi

Pembaruan kebijakan Claude memberikan penjelasan lebih rinci tentang persyaratan penggunaan berisiko tinggi. Ketentuan khusus ini ditujukan pada rekomendasi yang berdampak pada kondisi finansial, akses terhadap pekerjaan, dan fasilitas dasar yang dibutuhkan masyarakat. Apabila penggunaan memenuhi kriteria tertentu, Anthropic mewajibkan pengawasan manusia yang memenuhi kualifikasi. Melalui pengaturan ini, penanggung jawab yang memenuhi persyaratan perlu memiliki kemampuan mengevaluasi serta mengoreksi keputusan yang diusulkan model. Di samping pengawasan manusia, orang yang menerima keputusan wajib mendapatkan informasi bahwa AI digunakan dalam proses tersebut.

Dalam skenario penggunaan, sistem AI yang memengaruhi keputusan pekerjaan berpotensi diwajibkan menyediakan peninjauan manusia yang kompeten. Langkah tersebut bertujuan mengurangi ketergantungan penuh terhadap AI. Hal tersebut menjadi penting karena model tidak selalu menghasilkan jawaban tepat. Sebagai penjelasan penting, pengawasan manusia sudah menjadi bagian kebijakan sebelumnya. Perusahaan lebih berfokus menjabarkan contoh keputusan yang membutuhkan perlindungan tambahan. Dengan penjelasan lebih rinci, organisasi berkesempatan memahami kebutuhan perlindungan dalam aplikasinya.

Anthropic Mengatur Penggunaan Model pada Sistem Fisik Otomatis

Melalui kemajuan sistem digital yang mampu menjalankan tindakan, perangkat lunak AI modern dapat dihubungkan dengan mesin yang menjalankan tindakan fisik. Potensi integrasi ini membuka peluang untuk otomatisasi industri, tetapi memerlukan perlindungan tambahan. Berdasarkan aturan yang disempurnakan, Anthropic menambahkan persyaratan bagi integrasi model dengan hardware yang bergerak apabila tindakan fisiknya memiliki risiko keselamatan. Ketentuan tersebut bertujuan memastikan kendali operasional ketika perilaku mesin tidak sesuai harapan.

Salah satu persyaratan utama adalah keterlibatan manusia dengan kewenangan operasional yang memiliki kemampuan mengawasi operasi sistem otonom. Operator tersebut wajib dapat untuk menghentikan sistem ketika diperlukan. Sebagai perlindungan tambahan, mesin yang menggunakan Claude wajib memiliki kemampuan mempertahankan kondisi operasi yang tidak berbahaya apabila koneksi ke Claude terputus. Melalui persyaratan tersebut, perangkat harus tetap memiliki mekanisme perlindungan ketika model tidak dapat memberikan instruksi. Pengaturan demikian memiliki nilai keselamatan tinggi dalam otomatisasi fisik yang bekerja di lingkungan nyata.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Pembaruan kebijakan Anthropic memperlihatkan pentingnya tata kelola AI yang lebih terarah. Dengan pembaruan yang diumumkan, Anthropic memperjelas pembatasan terhadap penyalahgunaan sistem komunikasi, penggunaan AI untuk menyesatkan pemilih, serta aktivitas berbahaya terkait senjata maupun privasi. Pengembang Claude turut memperinci kewajiban pengawasan manusia. Tidak hanya berfokus pada dampak eksternal, ketentuan mengenai perilaku kasar yang ekstrem dan berulang menjadi bagian baru dalam pedoman perilaku pengguna. Namun demikian, penelitian serta evaluasi AI tetap memiliki ruang yang sah. Bagaimana pendapat Anda, apakah pembatasan penyalahgunaan kecerdasan buatan akan meningkatkan kepercayaan masyarakat? Jangan ragu menyampaikan pandangan mengenai penggunaan teknologi AI secara aman dan bermanfaat.