Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Perkembangan Teknologi AI Mendorong Anthropic Memperjelas Batas Penggunaan

Penyedia teknologi AI Anthropic mengumumkan pembaruan penting dalam Usage Policy yang menjelaskan batas penggunaan kecerdasan buatan. Pengumuman tersebut diperkenalkan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Menurut penjelasan perusahaan, sebagian besar perubahan difokuskan pada penyempurnaan penjelasan kebijakan. Pendekatan tersebut berkaitan dengan peningkatan fungsi agen AI. Seiring meningkatnya pemanfaatan AI dalam kehidupan sehari-hari, tantangan keamanan menjadi semakin kompleks.

Dalam perkembangan sebelumnya, interaksi dengan chatbot lebih banyak digunakan untuk menjawab pertanyaan. Seiring kemajuan teknologi, agen kecerdasan buatan dirancang agar mampu menyelesaikan pekerjaan bertahap. Fungsi yang semakin luas memberikan manfaat produktivitas, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika agen AI memperoleh akses yang tidak sesuai. Karena alasan tersebut, Anthropic menyusun penjelasan yang lebih rinci agar pengguna memahami tanggung jawabnya. Kebijakan tersebut tidak dimaksudkan menghentikan penggunaan AI yang sah, melainkan memperjelas aktivitas yang tidak diperbolehkan.

Kebijakan Claude Melarang Penyalahgunaan Akun Palsu dan Disinformasi

Bagian penting dalam pembaruan adalah penggabungan aturan mengenai aktivitas menipu. Anthropic menetapkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mengatur larangan terhadap kampanye manipulasi informasi. Berdasarkan penjelasan perusahaan, Claude dilarang dimanfaatkan dalam mengembangkan infrastruktur operasi pengaruh yang menipu. Larangan tersebut mencakup kampanye bisnis serta politik. Untuk memberikan gambaran, penggunaan AI untuk menyamarkan sumber pesan bertentangan dengan ketentuan penggunaan apabila digunakan untuk memanipulasi persepsi. Melalui penegasan ini, organisasi memiliki acuan mengenai penggunaan konten AI secara bertanggung jawab.

Di samping memperjelas aktivitas menipu, Anthropic juga memperbarui ketentuan yang menyangkut aktivitas politik. Aturan mengenai pemilihan umum sekarang dinamai Do Not Undermine Democratic Processes untuk memusatkan pembatasan pada manipulasi aktivitas demokrasi. Aktivitas yang tidak diperbolehkan mencakup penyebaran informasi pemilu palsu. Sebagai perubahan penting, Anthropic tidak lagi menerapkan pembatasan umum terhadap personalisasi pesan kampanye dan pemilih. Keputusan perusahaan tersebut memberi ruang bagi penyampaian informasi demokrasi yang bermanfaat. Meskipun pembatasan umum dikurangi, penipuan politik dan penyalahgunaan data pribadi tetap dilarang.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Untuk mencegah penggunaan berbahaya, Anthropic memperinci larangan pengembangan senjata menggunakan Claude. Anthropic menyatakan bahwa ketentuan tidak terbatas pada pembuatan senjata secara fisik. Software yang menjalankan fungsi persenjataan juga termasuk cakupan pembatasan. Sebagai ilustrasi, pengembangan perangkat lunak untuk mengendalikan senjata tidak diizinkan. Mengacu pada pembaruan kebijakan, perincian tersebut menjelaskan cara larangan sebelumnya telah diterapkan. Dengan demikian, pengembang perlu mengevaluasi fungsi perangkat lunak yang dikembangkan.

Di sisi perlindungan privasi, Anthropic menyusun ketentuan lebih rinci terhadap pemantauan identitas secara tidak sah. Pembatasan tersebut berlaku untuk pemantauan langsung ataupun pemeriksaan informasi yang telah dikumpulkan. Di samping larangan pengawasan, Claude tidak diperkenankan menjalankan pemilihan pihak yang perlu didakwa dalam sistem peradilan pidana. Namun demikian, pengawasan yang memiliki dasar izin sah tidak otomatis dilarang. Penggunaan yang dapat diterima meliputi penelitian hukum dan kegiatan jurnalistik. Ketentuan tersebut membantu memperjelas aktivitas pemantauan yang bertanggung jawab.

Anthropic Menetapkan Pengawasan Manusia pada Penggunaan Claude Berisiko Tinggi

Ketentuan penggunaan terbaru juga memperjelas persyaratan penggunaan berisiko tinggi. Persyaratan tersebut mencakup rekomendasi yang berdampak pada kondisi finansial, akses terhadap pekerjaan, dan fasilitas dasar yang dibutuhkan masyarakat. Apabila penggunaan memenuhi kriteria tertentu, Anthropic mensyaratkan keterlibatan peninjau manusia yang kompeten. Melalui pengaturan ini, orang yang berwenang perlu memiliki kemampuan mengevaluasi serta mengoreksi keputusan yang diusulkan model. Di samping pengawasan manusia, orang yang menerima keputusan wajib mendapatkan informasi bahwa AI digunakan dalam proses tersebut.

Sebagai contoh, aplikasi yang membantu menilai risiko finansial mungkin harus menerapkan mekanisme evaluasi sebelum tindakan. Tujuannya adalah memberikan kesempatan untuk memperbaiki kesalahan model. Kebutuhan tersebut sangat relevan sebab keluaran kecerdasan buatan dapat keliru. Meskipun demikian, ketentuan dasar tersebut telah berlaku sebelum pembaruan 2026. Anthropic terutama memperjelas jenis penggunaan yang termasuk kategori berisiko tinggi. Dengan penjelasan lebih rinci, pengembang dapat menilai kebutuhan perlindungan dalam aplikasinya.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Dengan meningkatnya kecerdasan buatan otonom, perangkat lunak AI modern berpotensi diintegrasikan ke robot dan perangkat keras. Penerapan teknologi tersebut membuka peluang untuk pengembangan robotika, tetapi juga menimbulkan risiko keselamatan. Dalam pembaruan kebijakan, Anthropic menetapkan ketentuan bagi sistem AI yang menjalankan tindakan fisik apabila perangkat tersebut dapat menimbulkan cedera. Aturan khusus tersebut dirancang agar membantu menjaga kendali operasional ketika sistem mengalami gangguan.

Aspek keselamatan yang ditekankan adalah keterlibatan manusia dengan kewenangan operasional yang memiliki kemampuan mengawasi gerakan mesin. Pengawas yang ditunjuk harus memiliki kemampuan untuk mengintervensi tindakan perangkat. Sebagai perlindungan tambahan, sistem fisik berbasis AI perlu mendukung keadaan aman apabila hubungan dengan sistem AI berhenti. Melalui persyaratan tersebut, perangkat harus tetap memiliki mekanisme perlindungan ketika model tidak dapat memberikan instruksi. Pengaturan demikian memiliki nilai keselamatan tinggi dalam otomatisasi fisik yang menjalankan tugas dengan konsekuensi fisik.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Pembaruan kebijakan Anthropic menggambarkan peran aturan dalam pengembangan kecerdasan buatan yang mampu mengikuti perkembangan kemampuan model. Dengan pembaruan yang diumumkan, Anthropic memperjelas pembatasan terhadap kampanye manipulatif, penggunaan AI untuk menyesatkan pemilih, serta aktivitas berbahaya terkait senjata maupun privasi. Anthropic sekaligus menegaskan pengendalian sistem yang dapat memengaruhi kehidupan manusia. Tidak hanya berfokus pada dampak eksternal, larangan terhadap perlakuan kejam tanpa tujuan terhadap model menjadi bagian baru dalam pedoman perilaku pengguna. Namun demikian, penelitian serta evaluasi AI tetap memiliki ruang yang sah. Bagaimana pendapat Anda, apakah pengawasan teknologi AI yang semakin ketat akan membantu mencegah risiko digital? Silakan bagikan pendapat Anda mengenai perkembangan kebijakan Anthropic.