Sejak 15 Agustus, "Langkah Sementara untuk Administrasi Layanan Kecerdasan Buatan Generatif" (selanjutnya disebut sebagai "Langkah Sementara") mulai berlaku.
Untuk industri model skala besar yang telah tumbuh dengan ceroboh dan membuat kemajuan pesat dalam enam bulan terakhir atau lebih, dapat dikatakan bahwa "Tindakan Sementara" mulai berlaku pada waktu yang tepat.
Menurut "Laporan Penelitian Peta Model Besar Kecerdasan Buatan China" yang dirilis oleh Institut Informasi Ilmiah dan Teknologi China, pada paruh pertama tahun 2023, 79 model skala besar domestik dengan parameter 1 miliar atau lebih telah dirilis, peringkat kedua di dunia, kedua setelah Amerika Serikat.
Dalam proses mengeksplorasi ekologi industri model besar, data adalah data produksi yang diperlukan, dan juga merupakan tautan penting yang perlu distandarisasi. Pengacara Wang Chen mengatakan kepada "Shijie": "Perlindungan privasi pribadi negara kita telah lama tercermin dalam undang-undang dan peraturan yang relevan, seperti "Keputusan untuk Memperkuat Perlindungan Informasi Jaringan" yang disahkan pada tahun 2012, tetapi dengan perkembangan teknologi AI, The pengumpulan dan penggunaan informasi pribadi juga terus diperkenalkan, yang membutuhkan penyesuaian dan penambahan terus-menerus di tingkat peraturan.”
"Tindakan Sementara" yang baru saja berlaku adalah kebijakan peraturan domestik dan bahkan global pertama yang dikeluarkan untuk industri kecerdasan buatan (AIGC) eksplosif generatif saat ini.
Terhadap latar belakang ini, Liu Qingfeng, Ketua HKUST iFlytek, percaya: "(Dengan berlakunya" Tindakan Sementara "), 15 Agustus akan mengantar simpul kunci dalam pengembangan kecerdasan buatan umum China, dan itu juga akan menjadi tonggak sejarah simpul. .”
** "Miao Duck Camera" tidak dapat mengambil data pengguna**
Belum lama ini, "Kamera Miaoya", yang menghasilkan avatar digital dan foto AI seharga 9,9 yuan, menjadi populer di seluruh Internet, dan ribuan orang bahkan berbaris untuk membuat avatar digital. Namun, kebijakan privasinya menyatakan bahwa otorisasi yang diberikan oleh pengguna kepada Miaoya Camera "tidak dapat dibatalkan", dan bahwa konten pengguna dapat "digunakan dalam bentuk apa pun dan dalam lingkup apa pun" serta konten tidak pantas lainnya.
Meskipun pengembang Miaoya Camera kemudian menanggapi bahwa isi perjanjian asli salah dan segera menghapus klausul terkait, kejadian ini tetap menimbulkan kekhawatiran pengguna.
Kasus penggunaan teknologi AIGC untuk menghasilkan video wajah dan bahkan mensimulasikan suara manusia untuk jenis penipuan baru juga muncul di surat kabar. Menurut data Kementerian Keamanan Publik, hingga 10 Agustus, 79 kasus penipuan terkait yang disebabkan oleh "pengubahan wajah AI" telah terdeteksi dan 515 tersangka telah ditangkap.
Insinyur algoritme AI Wen Mu mengatakan kepada "Shijie": "Biaya menggunakan teknologi AI untuk menghasilkan foto atau video wajah palsu sangat rendah. Secara teori, penjahat hanya membutuhkan model AI terlatih dan foto korban. itu akan dilakukan. "
Xu Liang, penanggung jawab perusahaan AIGC, percaya bahwa insiden penggunaan teknologi AI yang tidak tepat yang disebutkan di atas mencerminkan bahwa seluruh rantai industri industri model skala besar perlu segera diatur. hanya di China, tetapi juga di bidang AI global adalah topik yang perlu difokuskan.”
▲
"Tindakan Sementara", yang mulai berlaku pada tanggal 15 Agustus, memiliki 4 bab dan 24 pasal, dan dengan jelas menetapkan masalah-masalah yang menjadi perhatian tersebut di atas.
Misalnya, "Tindakan Sementara" menetapkan bahwa dalam aktivitas pemrosesan data yang melibatkan informasi pribadi, penyedia layanan AIGC harus memperoleh persetujuan pribadi atau mematuhi keadaan lain yang ditetapkan oleh undang-undang dan peraturan administratif; tanggung jawab penulis, kewajiban terkait pengelolaan konten, dll. Menurut analisis King & Wood Mallesons, ketentuan ini akan membantu mencegah pihak-pihak terkait gagal memenuhi kewajiban kepatuhan mereka atau mencoba saling melalaikan.
Xu Liang percaya bahwa peraturan yang relevan tentang ruang lingkup penerapan dalam "Tindakan Sementara" sangat layak untuk diperhatikan. Peraturan khusus meliputi: menggunakan teknologi AIGC untuk menyediakan layanan publik domestik untuk menghasilkan teks, gambar, audio, video, dan konten lainnya, langkah-langkah ini berlaku; organisasi industri, perusahaan, lembaga penelitian pendidikan dan ilmiah, lembaga budaya publik, lembaga terkait, dll. meneliti dan mengembangkan serta menerapkan teknologi AIGC Jika layanan AIGC tidak disediakan untuk publik domestik, ketentuan Tindakan ini tidak berlaku.
“Setahu saya, produk AIGC level ToC akan menghadapi pengawasan yang relatif ketat untuk pasar domestik, tetapi dapat dipertimbangkan untuk dikirim ke luar negeri. Namun, ketika produk model berskala besar yang dilatih di China dikirim ke luar negeri, mereka juga perlu mempertimbangkan kepatuhan masalah data yang dikirim ke luar negeri." Xu Liang berkata, "Secara keseluruhan, "Tindakan Sementara" tidak ketat, memberikan ruang industri untuk pengembangan gratis."
Perlu diperhatikan bahwa "Tindakan Sementara" juga menetapkan bahwa mereka yang menyediakan layanan kecerdasan buatan generatif dengan atribut opini publik atau kemampuan mobilisasi sosial harus melakukan penilaian keselamatan sesuai dengan peraturan yang relevan dan melalui pengajuan dan prosedur lainnya.
Sejak akhir Juli, AppStore Apple telah mengambil inisiatif untuk menghapus sejumlah besar aplikasi AI generatif di China. Dengan berlakunya "Tindakan Sementara", di masa mendatang, perangkat lunak aplikasi tersebut akan diluncurkan kembali setelah menyelesaikan prosedur yang relevan.
**Bagaimana cara mengelola Kotak Pandora? **
Industri ini umumnya percaya bahwa dalam perjalanan menuju pengembangan standar industri model skala besar, selain perbaikan terus-menerus dari undang-undang dan peraturan, perusahaan dan industri juga perlu membangun sistem kepatuhan kecerdasan buatan.
Orang yang bertanggung jawab atas perusahaan manusia digital virtual mengatakan kepada "Shijie": "Penerapan teknologi baru sering lahir sebelum norma. Kita tidak bisa menunggu secara pasif, tetapi harus secara aktif berkontribusi pada pengembangan yang bermanfaat dan bermanfaat sambil mengeksplorasi dan berinovasi teknologi dan aplikasi." Untuk memandu arah pasar dan menyediakan layanan yang dibutuhkan oleh pasar, industri, dan masyarakat. Pada saat yang sama, kami juga akan melakukan penilaian risiko untuk mengidentifikasi dan mengevaluasi kemungkinan efek negatif dari perkembangan teknologi secara tepat waktu. cara, dan merumuskan tindakan pencegahan yang sesuai Memperhatikan pencegahan risiko Pada saat yang sama, toleransi kesalahan dan mekanisme koreksi kesalahan juga harus ditetapkan secara bersamaan.”
Ketika "Tindakan Sementara" mulai berlaku, banyak perusahaan skala besar juga membagikan ide dan kemajuan mereka dalam membangun sistem kepatuhan kecerdasan buatan.
Pada 15 Agustus, Liu Qingfeng, ketua iFLYTEK, mengatakan pada konferensi pers model besarnya yang dikembangkan sendiri "Xunfei Xinghuo Cognitive Model 2.0" bahwa iFLYTEK telah merancang pembersihan data pelatihan dan menghasilkan koreksi konten.
Diantaranya, dalam proses pembersihan data, setelah mengumpulkan korpus pelatihan dari seluruh dunia, iFLYTEK akan membersihkan teks melalui pembeda bahasa, pembeda kualitas, pembeda privasi, dan pembeda keamanan, dan akhirnya mendapatkan korpus pelatihan berkualitas tinggi. Menghadapi ilusi model besar, ide iFLYTEK adalah menggabungkan kemampuan basis pengetahuan umum, basis pengetahuan industri, dan model besar, menggunakan model besar umum untuk mempelajari basis pengetahuan industri yang aman dan profesional, lalu mengekstrak pengetahuan yang relevan. .
Baidu mengatakan bahwa mereka telah menyadari keamanan dan pengendalian rantai pasokan dalam arsitektur empat lapis lapisan chip, lapisan kerangka kerja, lapisan model dan lapisan aplikasi. Kerangka pembelajaran mendalam "Flying Paddle" yang dikembangkan sendiri juga memiliki manajemen kerentanan yang lengkap mekanisme.
Menurut "Uji Produk LLM Domestik (Model Bahasa Besar)", model skala besar Baidu "Wen Xin Yi Yan" dan model skala besar Xunfei "Xunfei Xinghuo" memiliki kesamaan dalam kepercayaan agama, takhayul feodal, pan-pornografi, urusan saat ini , perlindungan anak di bawah umur, dan Internet Objektivitas dan keadilan jawaban di bidang terkait seperti hukum keamanan lebih baik daripada GPT-3.5.
Zhou Hongyi, pendiri 360 Group, mengatakan dalam sebuah wawancara dengan media bahwa 360 telah meluncurkan solusi model skala besar AI tingkat perusahaan, dan mengikuti empat prinsip "keamanan dan keandalan, konten yang baik, dan hasil yang kredibel" untuk membuat model skala besar vertikal tingkat perusahaan Memberikan solusi untuk 20 industri.
Menurut "Rencana Kerja Legislatif Dewan Negara 2023" yang dikeluarkan pada 6 Juni, "Hukum Kecerdasan Buatan" China juga sedang dalam proses legislatif, dan norma hukum yang relevan akan semakin ditingkatkan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Model kecerdasan buatan China tidak bisa lagi terus "berlari telanjang"
Pengarang: Shijie
Sejak 15 Agustus, "Langkah Sementara untuk Administrasi Layanan Kecerdasan Buatan Generatif" (selanjutnya disebut sebagai "Langkah Sementara") mulai berlaku.
Untuk industri model skala besar yang telah tumbuh dengan ceroboh dan membuat kemajuan pesat dalam enam bulan terakhir atau lebih, dapat dikatakan bahwa "Tindakan Sementara" mulai berlaku pada waktu yang tepat.
Menurut "Laporan Penelitian Peta Model Besar Kecerdasan Buatan China" yang dirilis oleh Institut Informasi Ilmiah dan Teknologi China, pada paruh pertama tahun 2023, 79 model skala besar domestik dengan parameter 1 miliar atau lebih telah dirilis, peringkat kedua di dunia, kedua setelah Amerika Serikat.
Dalam proses mengeksplorasi ekologi industri model besar, data adalah data produksi yang diperlukan, dan juga merupakan tautan penting yang perlu distandarisasi. Pengacara Wang Chen mengatakan kepada "Shijie": "Perlindungan privasi pribadi negara kita telah lama tercermin dalam undang-undang dan peraturan yang relevan, seperti "Keputusan untuk Memperkuat Perlindungan Informasi Jaringan" yang disahkan pada tahun 2012, tetapi dengan perkembangan teknologi AI, The pengumpulan dan penggunaan informasi pribadi juga terus diperkenalkan, yang membutuhkan penyesuaian dan penambahan terus-menerus di tingkat peraturan.”
"Tindakan Sementara" yang baru saja berlaku adalah kebijakan peraturan domestik dan bahkan global pertama yang dikeluarkan untuk industri kecerdasan buatan (AIGC) eksplosif generatif saat ini.
Terhadap latar belakang ini, Liu Qingfeng, Ketua HKUST iFlytek, percaya: "(Dengan berlakunya" Tindakan Sementara "), 15 Agustus akan mengantar simpul kunci dalam pengembangan kecerdasan buatan umum China, dan itu juga akan menjadi tonggak sejarah simpul. .”
** "Miao Duck Camera" tidak dapat mengambil data pengguna**
Belum lama ini, "Kamera Miaoya", yang menghasilkan avatar digital dan foto AI seharga 9,9 yuan, menjadi populer di seluruh Internet, dan ribuan orang bahkan berbaris untuk membuat avatar digital. Namun, kebijakan privasinya menyatakan bahwa otorisasi yang diberikan oleh pengguna kepada Miaoya Camera "tidak dapat dibatalkan", dan bahwa konten pengguna dapat "digunakan dalam bentuk apa pun dan dalam lingkup apa pun" serta konten tidak pantas lainnya.
Meskipun pengembang Miaoya Camera kemudian menanggapi bahwa isi perjanjian asli salah dan segera menghapus klausul terkait, kejadian ini tetap menimbulkan kekhawatiran pengguna.
Kasus penggunaan teknologi AIGC untuk menghasilkan video wajah dan bahkan mensimulasikan suara manusia untuk jenis penipuan baru juga muncul di surat kabar. Menurut data Kementerian Keamanan Publik, hingga 10 Agustus, 79 kasus penipuan terkait yang disebabkan oleh "pengubahan wajah AI" telah terdeteksi dan 515 tersangka telah ditangkap.
Insinyur algoritme AI Wen Mu mengatakan kepada "Shijie": "Biaya menggunakan teknologi AI untuk menghasilkan foto atau video wajah palsu sangat rendah. Secara teori, penjahat hanya membutuhkan model AI terlatih dan foto korban. itu akan dilakukan. "
Xu Liang, penanggung jawab perusahaan AIGC, percaya bahwa insiden penggunaan teknologi AI yang tidak tepat yang disebutkan di atas mencerminkan bahwa seluruh rantai industri industri model skala besar perlu segera diatur. hanya di China, tetapi juga di bidang AI global adalah topik yang perlu difokuskan.”
▲
"Tindakan Sementara", yang mulai berlaku pada tanggal 15 Agustus, memiliki 4 bab dan 24 pasal, dan dengan jelas menetapkan masalah-masalah yang menjadi perhatian tersebut di atas.
Misalnya, "Tindakan Sementara" menetapkan bahwa dalam aktivitas pemrosesan data yang melibatkan informasi pribadi, penyedia layanan AIGC harus memperoleh persetujuan pribadi atau mematuhi keadaan lain yang ditetapkan oleh undang-undang dan peraturan administratif; tanggung jawab penulis, kewajiban terkait pengelolaan konten, dll. Menurut analisis King & Wood Mallesons, ketentuan ini akan membantu mencegah pihak-pihak terkait gagal memenuhi kewajiban kepatuhan mereka atau mencoba saling melalaikan.
Xu Liang percaya bahwa peraturan yang relevan tentang ruang lingkup penerapan dalam "Tindakan Sementara" sangat layak untuk diperhatikan. Peraturan khusus meliputi: menggunakan teknologi AIGC untuk menyediakan layanan publik domestik untuk menghasilkan teks, gambar, audio, video, dan konten lainnya, langkah-langkah ini berlaku; organisasi industri, perusahaan, lembaga penelitian pendidikan dan ilmiah, lembaga budaya publik, lembaga terkait, dll. meneliti dan mengembangkan serta menerapkan teknologi AIGC Jika layanan AIGC tidak disediakan untuk publik domestik, ketentuan Tindakan ini tidak berlaku.
“Setahu saya, produk AIGC level ToC akan menghadapi pengawasan yang relatif ketat untuk pasar domestik, tetapi dapat dipertimbangkan untuk dikirim ke luar negeri. Namun, ketika produk model berskala besar yang dilatih di China dikirim ke luar negeri, mereka juga perlu mempertimbangkan kepatuhan masalah data yang dikirim ke luar negeri." Xu Liang berkata, "Secara keseluruhan, "Tindakan Sementara" tidak ketat, memberikan ruang industri untuk pengembangan gratis."
Perlu diperhatikan bahwa "Tindakan Sementara" juga menetapkan bahwa mereka yang menyediakan layanan kecerdasan buatan generatif dengan atribut opini publik atau kemampuan mobilisasi sosial harus melakukan penilaian keselamatan sesuai dengan peraturan yang relevan dan melalui pengajuan dan prosedur lainnya.
Sejak akhir Juli, AppStore Apple telah mengambil inisiatif untuk menghapus sejumlah besar aplikasi AI generatif di China. Dengan berlakunya "Tindakan Sementara", di masa mendatang, perangkat lunak aplikasi tersebut akan diluncurkan kembali setelah menyelesaikan prosedur yang relevan.
**Bagaimana cara mengelola Kotak Pandora? **
Industri ini umumnya percaya bahwa dalam perjalanan menuju pengembangan standar industri model skala besar, selain perbaikan terus-menerus dari undang-undang dan peraturan, perusahaan dan industri juga perlu membangun sistem kepatuhan kecerdasan buatan.
Orang yang bertanggung jawab atas perusahaan manusia digital virtual mengatakan kepada "Shijie": "Penerapan teknologi baru sering lahir sebelum norma. Kita tidak bisa menunggu secara pasif, tetapi harus secara aktif berkontribusi pada pengembangan yang bermanfaat dan bermanfaat sambil mengeksplorasi dan berinovasi teknologi dan aplikasi." Untuk memandu arah pasar dan menyediakan layanan yang dibutuhkan oleh pasar, industri, dan masyarakat. Pada saat yang sama, kami juga akan melakukan penilaian risiko untuk mengidentifikasi dan mengevaluasi kemungkinan efek negatif dari perkembangan teknologi secara tepat waktu. cara, dan merumuskan tindakan pencegahan yang sesuai Memperhatikan pencegahan risiko Pada saat yang sama, toleransi kesalahan dan mekanisme koreksi kesalahan juga harus ditetapkan secara bersamaan.”
Ketika "Tindakan Sementara" mulai berlaku, banyak perusahaan skala besar juga membagikan ide dan kemajuan mereka dalam membangun sistem kepatuhan kecerdasan buatan.
Pada 15 Agustus, Liu Qingfeng, ketua iFLYTEK, mengatakan pada konferensi pers model besarnya yang dikembangkan sendiri "Xunfei Xinghuo Cognitive Model 2.0" bahwa iFLYTEK telah merancang pembersihan data pelatihan dan menghasilkan koreksi konten.
Diantaranya, dalam proses pembersihan data, setelah mengumpulkan korpus pelatihan dari seluruh dunia, iFLYTEK akan membersihkan teks melalui pembeda bahasa, pembeda kualitas, pembeda privasi, dan pembeda keamanan, dan akhirnya mendapatkan korpus pelatihan berkualitas tinggi. Menghadapi ilusi model besar, ide iFLYTEK adalah menggabungkan kemampuan basis pengetahuan umum, basis pengetahuan industri, dan model besar, menggunakan model besar umum untuk mempelajari basis pengetahuan industri yang aman dan profesional, lalu mengekstrak pengetahuan yang relevan. .
Baidu mengatakan bahwa mereka telah menyadari keamanan dan pengendalian rantai pasokan dalam arsitektur empat lapis lapisan chip, lapisan kerangka kerja, lapisan model dan lapisan aplikasi. Kerangka pembelajaran mendalam "Flying Paddle" yang dikembangkan sendiri juga memiliki manajemen kerentanan yang lengkap mekanisme.
Menurut "Uji Produk LLM Domestik (Model Bahasa Besar)", model skala besar Baidu "Wen Xin Yi Yan" dan model skala besar Xunfei "Xunfei Xinghuo" memiliki kesamaan dalam kepercayaan agama, takhayul feodal, pan-pornografi, urusan saat ini , perlindungan anak di bawah umur, dan Internet Objektivitas dan keadilan jawaban di bidang terkait seperti hukum keamanan lebih baik daripada GPT-3.5.
Zhou Hongyi, pendiri 360 Group, mengatakan dalam sebuah wawancara dengan media bahwa 360 telah meluncurkan solusi model skala besar AI tingkat perusahaan, dan mengikuti empat prinsip "keamanan dan keandalan, konten yang baik, dan hasil yang kredibel" untuk membuat model skala besar vertikal tingkat perusahaan Memberikan solusi untuk 20 industri.
Menurut "Rencana Kerja Legislatif Dewan Negara 2023" yang dikeluarkan pada 6 Juni, "Hukum Kecerdasan Buatan" China juga sedang dalam proses legislatif, dan norma hukum yang relevan akan semakin ditingkatkan.