Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Pengembang model Claude Anthropic memperkenalkan pembaruan penting dalam Usage Policy yang mengatur penggunaan Claude. Perubahan aturan tersebut diperkenalkan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Menurut penjelasan perusahaan, sebagian besar perubahan bertujuan memperjelas aturan yang sudah ada. Hal ini menjadi relevan seiring penggunaan kecerdasan buatan dalam pekerjaan yang lebih kompleks. Dengan semakin luasnya pemanfaatan AI dalam kehidupan sehari-hari, kebutuhan pengawasan juga semakin beragam.

Dalam perkembangan sebelumnya, interaksi dengan chatbot lebih banyak digunakan untuk menyusun tulisan. Seiring kemajuan teknologi, sistem AI yang lebih mandiri berpotensi membantu menyelesaikan pekerjaan bertahap. Kemampuan tersebut menghadirkan efisiensi baru, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika sistem dipakai tanpa batas yang jelas. Oleh sebab itu, Anthropic memperjelas sejumlah larangan agar pengembang mengetahui batas penggunaan. Pedoman terbaru itu bukan merupakan pelarangan umum terhadap pemanfaatan Claude, melainkan memperjelas aktivitas yang tidak diperbolehkan.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Bagian penting dalam pembaruan adalah penegasan larangan terhadap operasi yang menyesatkan. Anthropic menambahkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mengatur larangan terhadap aktivitas digital yang menyembunyikan identitas pengirim. Dalam ketentuan tersebut, Claude tidak diperkenankan membantu membangun jaringan akun palsu. Ketentuan tersebut berlaku pada aktivitas komersial maupun politik. Untuk memberikan gambaran, pembuatan akun yang berpura-pura menjadi masyarakat biasa dapat termasuk aktivitas terlarang apabila digunakan untuk memanipulasi persepsi. Berkat aturan yang lebih jelas, pengguna dapat memahami mengenai penggunaan konten AI secara bertanggung jawab.

Di samping memperjelas aktivitas menipu, Anthropic menata kembali ketentuan yang menyangkut aktivitas politik. Bagian tersebut sekarang dinamai Do Not Undermine Democratic Processes untuk menekankan larangan manipulasi aktivitas demokrasi. Penyalahgunaan yang dibatasi mencakup penyebaran informasi pemilu palsu. Namun demikian, Anthropic tidak lagi menerapkan pembatasan umum terhadap penyesuaian komunikasi politik yang sah. Perubahan ini bertujuan memungkinkan komunikasi kewargaan yang tidak menipu. Walaupun demikian, aktivitas menyesatkan tetap berada dalam batas larangan.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Untuk mencegah penggunaan berbahaya, Anthropic memperinci larangan pengembangan senjata menggunakan Claude. Anthropic menyatakan bahwa ketentuan tidak terbatas pada pembuatan senjata secara fisik. Komponen digital bagi sistem senjata tetap berada dalam aktivitas yang dilarang. Contohnya, pembuatan sistem yang mempersenjatai drone bertentangan dengan aturan. Menurut Anthropic, perincian tersebut menjelaskan praktik penegakan yang sudah berlangsung. Oleh karena itu, organisasi harus mempertimbangkan fungsi perangkat lunak yang dikembangkan.

Di sisi perlindungan privasi, Anthropic menegaskan larangan terhadap pelacakan individu tanpa persetujuan. Larangan tersebut mencakup pemantauan langsung ataupun pemeriksaan informasi yang telah dikumpulkan. Selain itu, Claude tidak diperkenankan menjalankan penentuan orang yang harus diselidiki dalam proses penegakan hukum. Namun demikian, analisis tertentu yang dilakukan secara legal tidak otomatis dilarang. Contoh yang disebutkan meliputi pemantauan penipuan yang disetujui. Ketentuan tersebut membantu memperjelas penggunaan teknologi yang sah.

Penerapan Teknologi Claude dalam Keputusan Penting Harus Diawasi

Penyesuaian aturan Anthropic menegaskan penerapan aturan tambahan untuk keputusan penting. Pengamanan tambahan itu berkaitan dengan rekomendasi yang berdampak pada kondisi finansial, mata pencaharian, dan akses terhadap kebutuhan esensial. Dalam kondisi tersebut, Anthropic mewajibkan pengawasan manusia yang memenuhi kualifikasi. Dengan ketentuan tersebut, orang yang berwenang perlu memiliki kemampuan mengevaluasi serta mengoreksi keputusan yang diusulkan model. Sebagai bentuk transparansi, pihak yang dipengaruhi oleh penggunaan AI perlu memperoleh penjelasan bahwa rekomendasi melibatkan kecerdasan buatan.

Dalam skenario penggunaan, sistem AI yang memengaruhi keputusan pekerjaan dapat membutuhkan peninjauan manusia yang kompeten. Langkah tersebut bertujuan mencegah keputusan otomatis tanpa pemeriksaan. Kebutuhan tersebut menjadi penting karena model tidak selalu menghasilkan jawaban tepat. Sebagai penjelasan penting, ketentuan dasar tersebut telah berlaku sebelum pembaruan 2026. Pembaruan terbaru terutama merinci jenis penggunaan yang termasuk kategori berisiko tinggi. Dengan penjelasan lebih rinci, penyedia layanan bisa mengevaluasi persyaratan yang relevan bagi produknya.

Standar Keselamatan AI saat Mengendalikan Perangkat Keras

Seiring berkembangnya kecerdasan buatan otonom, model seperti Claude dapat dihubungkan dengan robot dan perangkat keras. Kemampuan tersebut menghadirkan manfaat untuk pengendalian perangkat cerdas, tetapi memerlukan perlindungan tambahan. Melalui ketentuan terbaru, Anthropic memperjelas standar bagi penggunaan Claude pada perangkat otonom apabila tindakan fisiknya memiliki risiko keselamatan. Ketentuan tersebut dirancang agar membantu menjaga kendali operasional ketika terjadi masalah.

Salah satu persyaratan utama adalah ketersediaan pengawas yang kompeten yang memiliki kemampuan mengawasi gerakan mesin. Pengawas yang ditunjuk harus memiliki kemampuan untuk membatalkan operasi berbahaya. Selain itu, sistem fisik berbasis AI perlu mendukung keadaan aman apabila hubungan dengan sistem AI berhenti. Dengan kata lain, mesin tidak boleh bergantung sepenuhnya ketika layanan AI tidak tersedia. Pendekatan ini relevan untuk diterapkan dalam robotika yang menjalankan tugas dengan konsekuensi fisik.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Perubahan Usage Policy Claude menunjukkan kebutuhan perlindungan teknologi modern yang semakin jelas. Melalui ketentuan terbaru, Anthropic memperjelas pembatasan terhadap penipuan berbasis AI, aktivitas yang merusak pemilu, serta pengembangan senjata dan pengawasan tanpa izin. Pengembang Claude turut memperinci kewajiban pengawasan manusia. Tidak hanya berfokus pada dampak eksternal, ketentuan mengenai perilaku kasar yang ekstrem dan berulang turut ditambahkan dalam pedoman perilaku pengguna. Walaupun kebijakan semakin rinci, kritik biasa dan pengujian model tetap diperbolehkan. Apa pandangan Anda, apakah pengawasan teknologi AI yang semakin ketat akan meningkatkan kepercayaan masyarakat? Mari berbagi pemikiran mengenai masa depan keamanan kecerdasan buatan.