近日，公安部公佈近期打擊整治網路謠言10起典型案例，其中4起涉及使用人工智慧工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日，有網民在今日頭條平臺釋出“廣州即將成為全國首個限制外賣配送的城市”，迅速引發關注形成網路熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某英等多名兼職人員，使用人工智慧工具批次生成不實文章引流牟利。最終，涉案6人被採取刑事強制措施。其餘3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術的迅猛發展，“AI造謠”的情況日益增多，對此進行治理已經刻不容緩。
在自媒體時代，一些自媒體從業人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網路造假傳謠。而AI技術在近兩年發展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。
技術是中性的，本身並不能分辨善惡。一種新技術出現既可以為善，也可以助惡。一旦某種技術可能用於為惡，最終就會有人這麼做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術，結果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。
“廣州限制外賣配送”就屬於此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智慧工具就可以批次生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的後果，可能對一個巨大體量的行業造成衝擊，讓這個行業上下游所涉及的人都會受到直接或間接的影響。
當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經濟和社會平穩執行。不外，現階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較於之前的網路謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產”野蠻擴張。
針對這一局面，相關部門已經有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯合釋出的《關於依法懲治網路暴力違法犯罪的指導意見》指出，對實施網路暴力違法犯罪者利用“深度合成”等生成式人工智慧技術釋出違法資訊，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人採取刑事強制措施，也體現了對“AI造謠”的堅決整治態度，或將成為打擊治理“AI造謠”的樣板案例。
文/賈安平
圖源/視覺中國
編輯/姬源
近日，公安部公佈近期打擊整治網路謠言10起典型案例，其中4起涉及使用人工智慧工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日，有網民在今日頭條平臺釋出“廣州即將成為全國首個限制外賣配送的城市”，迅速引發關注形成網路熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某英等多名兼職人員，使用人工智慧工具批次生成不實文章引流牟利。最終，涉案6人被採取刑事強制措施。其餘3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術的迅猛發展，“AI造謠”的情況日益增多，對此進行治理已經刻不容緩。
在自媒體時代，一些自媒體從業人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網路造假傳謠。而AI技術在近兩年發展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。
技術是中性的，本身並不能分辨善惡。一種新技術出現既可以為善，也可以助惡。一旦某種技術可能用於為惡，最終就會有人這麼做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術，結果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。
“廣州限制外賣配送”就屬於此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智慧工具就可以批次生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的後果，可能對一個巨大體量的行業造成衝擊，讓這個行業上下游所涉及的人都會受到直接或間接的影響。
當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經濟和社會平穩執行。不外，現階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較於之前的網路謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產”野蠻擴張。
針對這一局面，相關部門已經有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯合釋出的《關於依法懲治網路暴力違法犯罪的指導意見》指出，對實施網路暴力違法犯罪者利用“深度合成”等生成式人工智慧技術釋出違法資訊，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人採取刑事強制措施，也體現了對“AI造謠”的堅決整治態度，或將成為打擊治理“AI造謠”的樣板案例。
文/賈安平
圖源/視覺中國
編輯/姬源
近日，公安部公佈近期打擊整治網路謠言10起典型案例，其中4起涉及使用人工智慧工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日，有網民在今日頭條平臺釋出“廣州即將成為全國首個限制外賣配送的城市”，迅速引發關注形成網路熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某英等多名兼職人員，使用人工智慧工具批次生成不實文章引流牟利。最終，涉案6人被採取刑事強制措施。其餘3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術的迅猛發展，“AI造謠”的情況日益增多，對此進行治理已經刻不容緩。
在自媒體時代，一些自媒體從業人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網路造假傳謠。而AI技術在近兩年發展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。
技術是中性的，本身並不能分辨善惡。一種新技術出現既可以為善，也可以助惡。一旦某種技術可能用於為惡，最終就會有人這麼做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術，結果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。
“廣州限制外賣配送”就屬於此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智慧工具就可以批次生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的後果，可能對一個巨大體量的行業造成衝擊，讓這個行業上下游所涉及的人都會受到直接或間接的影響。
當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經濟和社會平穩執行。不外，現階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較於之前的網路謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產”野蠻擴張。
針對這一局面，相關部門已經有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯合釋出的《關於依法懲治網路暴力違法犯罪的指導意見》指出，對實施網路暴力違法犯罪者利用“深度合成”等生成式人工智慧技術釋出違法資訊，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人採取刑事強制措施，也體現了對“AI造謠”的堅決整治態度，或將成為打擊治理“AI造謠”的樣板案例。
文/賈安平
圖源/視覺中國
編輯/姬源
近日，公安部公佈近期打擊整治網路謠言10起典型案例，其中4起涉及使用人工智慧工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日，有網民在今日頭條平臺釋出“廣州即將成為全國首個限制外賣配送的城市”，迅速引發關注形成網路熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某英等多名兼職人員，使用人工智慧工具批次生成不實文章引流牟利。最終，涉案6人被採取刑事強制措施。其餘3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術的迅猛發展，“AI造謠”的情況日益增多，對此進行治理已經刻不容緩。
在自媒體時代，一些自媒體從業人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網路造假傳謠。而AI技術在近兩年發展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。
技術是中性的，本身並不能分辨善惡。一種新技術出現既可以為善，也可以助惡。一旦某種技術可能用於為惡，最終就會有人這麼做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術，結果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。
“廣州限制外賣配送”就屬於此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智慧工具就可以批次生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的後果，可能對一個巨大體量的行業造成衝擊，讓這個行業上下游所涉及的人都會受到直接或間接的影響。
當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經濟和社會平穩執行。不外，現階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較於之前的網路謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產”野蠻擴張。
針對這一局面，相關部門已經有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯合釋出的《關於依法懲治網路暴力違法犯罪的指導意見》指出，對實施網路暴力違法犯罪者利用“深度合成”等生成式人工智慧技術釋出違法資訊，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人採取刑事強制措施，也體現了對“AI造謠”的堅決整治態度，或將成為打擊治理“AI造謠”的樣板案例。
文/賈安平
圖源/視覺中國
編輯/姬源
近日，公安部公佈近期打擊整治網路謠言10起典型案例，其中4起涉及使用人工智慧工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日，有網民在今日頭條平臺釋出“廣州即將成為全國首個限制外賣配送的城市”，迅速引發關注形成網路熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某英等多名兼職人員，使用人工智慧工具批次生成不實文章引流牟利。最終，涉案6人被採取刑事強制措施。其餘3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術的迅猛發展，“AI造謠”的情況日益增多，對此進行治理已經刻不容緩。
在自媒體時代，一些自媒體從業人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網路造假傳謠。而AI技術在近兩年發展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。
技術是中性的，本身並不能分辨善惡。一種新技術出現既可以為善，也可以助惡。一旦某種技術可能用於為惡，最終就會有人這麼做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術，結果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。
“廣州限制外賣配送”就屬於此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智慧工具就可以批次生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的後果，可能對一個巨大體量的行業造成衝擊，讓這個行業上下游所涉及的人都會受到直接或間接的影響。
當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經濟和社會平穩執行。不外，現階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較於之前的網路謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產”野蠻擴張。
針對這一局面，相關部門已經有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯合釋出的《關於依法懲治網路暴力違法犯罪的指導意見》指出，對實施網路暴力違法犯罪者利用“深度合成”等生成式人工智慧技術釋出違法資訊，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人採取刑事強制措施，也體現了對“AI造謠”的堅決整治態度，或將成為打擊治理“AI造謠”的樣板案例。
文/賈安平
圖源/視覺中國
編輯/姬源
