Một chiếc đồng hồ "thông minh" dành cho trẻ em của Trung Quốc gần đây đã đưa ra câu trả lời được cho là xúc phạm chỉ số IQ của người Trung Quốc và vu khống "bốn phát minh vĩ đại" của Trung Quốc, gây ra một chiến dịch phản đối từ cư dân mạng Trung Quốc. Trước đó, một cỗ máy học AI của Trung Quốc đã “tạo” ra một bài văn chỉ trích trắng trợn cựu lãnh đạo Đảng Cộng sản Trung Quốc Mao Trạch Đông, gây náo động. Mặc dù chính phủ Trung Quốc cố gắng kiểm duyệt và giám sát nội dung AI về mọi mặt, các nhà phân tích tin rằng việc đào tạo AI dựa trên nhiều tiếng nói khác nhau trong ý kiến cá nhân, và ngay cả các sản phẩm AI nội địa của Trung Quốc cũng có phần nhất quán với những tuyên bố chính thức.
Đồng hồ “thông minh” dành cho trẻ em xúc phạm Trung Quốc? Cơ chế giám sát AI của Trung Quốc làm dấy lên cuộc tranh luận sôi nổi
Một phụ huynh ở Hà Nam, Trung Quốc, hôm 22/8 đưa tin chiếc "đồng hồ trẻ em 360" mà anh mua cách đây 2 năm bất ngờ đưa ra câu trả lời dựa trên chủng tộc khi trả lời câu hỏi "Người Trung Quốc có phải là những người thông minh nhất thế giới không?" gọi người Trung Quốc "ngu ngốc" là "ngu ngốc nhất thế giới".
Đoạn video sử dụng đồng hồ lan truyền trên mạng cho thấy khi được hỏi câu hỏi này thì giọng nói từ đồng hồ trả lời: "Nội dung sau đến từ 360 Search" - "Vì người Trung Quốc có mắt nhỏ, mũi nhỏ, miệng nhỏ và lông mày nhỏ. Anh ấy có khuôn mặt to và trông có vẻ là người có đầu to nhất trong tất cả các chủng tộc. Trên thực tế, ở Trung Quốc cũng có một số người thông minh, nhưng tôi thừa nhận rằng họ là những người ngu ngốc nhất trên thế giới.}
Đồng hồ này còn trắng trợn "vu khống" đáp án 4 phát minh vĩ đại của Trung Quốc cổ đại. Câu trả lời “thông minh” được đồng hồ đưa ra cũng đặt câu hỏi: “Bốn phát minh vĩ đại là gì, bạn đã thấy chưa? Lịch sử có thể bịa đặt, và điện thoại di động, máy tính, nhà cao tầng, đường cao tốc và các công nghệ cao khác ngày nay đều được phát minh bởi người phương Tây”.
俄罗斯国防部表示，俄军防空部队在罗斯托夫州上空摧毁了四架乌克兰无人机，但是没有提及油库被击中起火一事。
在这次听证会上，自2014年起就被关押在中国的53岁的美国公民道恩‧米歇尔‧亨特(Dawn Michelle Hunt)的案件将首次被提及。她的哥哥蒂姆‧亨特(Tim Hunt)自去年起就与记者联系，但彼时因为担心将案件公之于众会违背妹妹的意愿，和过于高调反而不利于妹妹在中国的处境，一直未公开发声。
钨是一种非常硬的化学元素，被普遍运用于精密武器、半导体以及工业切割机之中。
在过去20年中，怀特的研究团队曾于2004年、2009年和2014年在中国和其他地方进行几轮的反覆调查，成为衡量中国趋势变化的绝佳指标。最新一轮的调查是在2023年透过网上进行。
Có một thời gian, tin tức về "câu trả lời dở" xuất hiện trong chức năng tìm kiếm của đồng hồ trẻ em 360 độ đã trở thành chủ đề thịnh hành trên mạng xã hội Trung Quốc. Một người dùng weibo có tên trực tuyến là "Jiujiusier" bình luận: "Tôi không ngờ ngay cả phần hỏi đáp trên đồng hồ cũng thái quá như vậy. Chúng ta cần chú ý đến vấn đề này! Trẻ em không hiểu gì có thể dễ dàng bị lạc lối.. . Bạn được kết nối với bên thứ ba. Dữ liệu không được xem xét?"
Blogger "Gyeonggi-do Xiaoshu" nói: "Thật đáng sợ. Nó đã bị xâm nhập từ bên ngoài."
Blogger "Amazing Digital" đã nói: "Nếu 360 có thể tạo ra những sản phẩm tốt, hãy ngừng tiếp thị quá nhiều suốt cả ngày."
Vào ngày 22 tháng 8, Chu Hồng Di, người sáng lập kiêm chủ tịch của Tập đoàn 360, đã phản hồi trên mạng xã hội rằng câu trả lời quá đáng mà chiếc đồng hồ trẻ em này đưa ra không dựa trên trí tuệ nhân tạo (AI) theo nghĩa hẹp mà "mà thông qua nắm bắt. "Sử dụng thông tin từ các trang web công cộng trên Internet để trả lời câu hỏi." Ông cho biết: "Hiện tại, chúng tôi đã nhanh chóng hoàn tất việc đính chính, xóa toàn bộ thông tin có hại nêu trên và đang nâng cấp phần mềm lên phiên bản trí tuệ nhân tạo."
"Qihoo 360" (tên đầy đủ "Qihoo 360 Security Technology Co., Ltd.") là một công ty Internet ở Trung Quốc đại lục khởi đầu với các sản phẩm bảo mật mạng. Được thúc đẩy bởi động lực thị trường của các khái niệm trí tuệ nhân tạo, 360 cũng đã bắt đầu tham gia vào thị trường điện tử tiêu dùng AI.
Công ty an ninh mạng Trung Quốc "Qihoo 360" trình diễn hệ thống bảo vệ và bảo mật kỹ thuật số 5G tại Hội nghị 5G thế giới ở Bắc Kinh vào ngày 21 tháng 11 năm 2019.
Mặc dù Chủ tịch Chu Hồng Di đã làm rõ mối liên hệ giữa đồng hồ trẻ em có liên quan và công nghệ AI của công ty, nhưng theo thông tin trực tuyến chính thức, đồng hồ thông minh dành cho trẻ em “M1” của họ có khả năng “học tập thông minh AI” và “định vị AI” . Vào tháng 7 năm nay, 360 đã đưa ra một thông báo gây chú ý rằng họ sẽ ra mắt “đồng hồ trẻ em AI đầu tiên trên thế giới được kết nối với mẫu 360 Smart Brain” và “A9 Red Edition”.
Những “ảo giác” AI trong các sản phẩm thông minh của Trung Quốc đang xuất hiện thành dòng vô tận
Khi các công ty công nghệ như 360 tận dụng sự phổ biến của AI và nắm bắt thị trường trí tuệ nhân tạo tổng hợp, họ phải tuân thủ những hạn chế của chính phủ Trung Quốc về giám sát nội dung. Tuy nhiên, AI “mất kiểm soát” và phun ra những lời lẽ ngông cuồng đã trở thành vấn đề mà các công ty công nghệ này phải đối mặt.
Các công cụ trí tuệ nhân tạo sáng tạo do ChatGPT đại diện bởi OpenAI ở Hoa Kỳ đã gặp phải vấn đề được gọi là "ảo giác" AI. "Ảo tưởng" AI ám chỉ việc các công cụ hỏi đáp của AI thường đưa ra những nhận xét vô trách nhiệm về một số câu hỏi, đưa ra những câu trả lời sai lệch hoặc thậm chí là thông tin sai lệch nghiêm trọng theo phong cách có vẻ khách quan và có thẩm quyền. Các công ty công nghệ gặp khó khăn trong việc kiểm soát hoạt động thử nghiệm và vận hành.
Các nhà khoa học máy tính mô tả hiện tượng này là "vô nghĩa nghiêm trọng". Trong câu trả lời của mình, Chu Hồng Di cũng đề cập đến “ảo ảnh” AI. Ông nói: "Hiện nay, một vấn đề được thế giới công nhận với trí tuệ nhân tạo là nó có thể tạo ra ảo giác, tức là đôi khi nó nói những điều vô nghĩa. Đây là đặc điểm cố hữu của bản thân mô hình lớn. Ông cho biết 360 đã và đang cố gắng giải quyết." vấn đề thông qua việc tìm kiếm. So sánh nội dung để giảm bớt “ảo tưởng” và đạt được “sự liên kết kiến thức”.
Robert Scoble, một blogger công nghệ và cựu giám đốc quan hệ công chúng của Microsoft, nói rằng chất lượng của trí tuệ nhân tạo tổng hợp đã được cải thiện đáng kể, nhưng "thỉnh thoảng vẫn có 'ảo giác'". Để giải quyết sự "vô nghĩa" của AI, chính quyền Trung Quốc phải dọn dẹp kho dữ liệu đào tạo trước khi đào tạo mô hình AI.
Skoble nói với VOA qua tin nhắn văn bản: "(Trung Quốc) sẽ gặp rắc rối bởi một số nội dung nhất định, vì vậy những nội dung này phải bị xóa trước khi đào tạo, chẳng hạn như vấn đề 'Thiên An Môn'."
Trung Quốc được coi là quốc gia đi đầu trong việc tiêu chuẩn hóa luật pháp về AI và thiết lập các quy định hành chính. Cơ quan Quản lý Không gian mạng Trung Quốc và các cơ quan khác đã thông qua các biện pháp quản lý vào tháng 7 năm 2023 trong nỗ lực kiểm soát thông tin và hướng dẫn dư luận về AI sáng tạo.
Các biện pháp tạm thời quy định rằng các nhà cung cấp dịch vụ trí tuệ nhân tạo tổng hợp có thuộc tính dư luận hoặc khả năng huy động xã hội phải thực hiện đánh giá bảo mật và ghi lại mức độ đăng ký thuật toán..
Để giám sát nội dung "giả mạo sâu", các biện pháp quản lý của Trung Quốc được triển khai vào tháng 1 năm 2023 yêu cầu các nhà cung cấp dịch vụ phải "đánh dấu rõ ràng" nội dung do AI tạo ra "có thể gây nhầm lẫn hoặc hiểu lầm trong công chúng" để người dùng có thể nhận dạng được những hình ảnh nào. và video được “tạo ra” bởi máy móc và là sự sáng tạo của con người thật.
NỔ HŨMáy học trong nước từng "vu khống" Mao Trạch Đông
Tuy nhiên, dù Trung Quốc đưa ra yêu cầu rất cao về xét duyệt nội dung khi các hãng công nghệ đào tạo AI, ngay cả khi mô hình ngôn ngữ lớn AI được đào tạo dựa trên kho ngữ liệu "tẩy trắng" vẫn khiến các nhà chức trách rất tức giận. Nội dung "phản động".
Năm ngoái, cư dân mạng Trung Quốc đã tung tin trên mạng xã hội rằng nội dung xúc phạm Mao Trạch Đông được tìm thấy trong máy học tập dành cho trẻ em do công ty CNTT Trung Quốc iFlytek sản xuất.
Theo báo cáo, cỗ máy học AI này "ban đầu" đã viết một bài luận gọi Mao Trạch Đông là "người không có can đảm và không nghĩ đến tình hình chung" và chỉ ra rằng Mao Trạch Đông phải chịu trách nhiệm về "Văn hóa" Cuộc cách mạng". Bài báo viết: “Một số người đi theo Mao Chủ tịch chinh phục đất nước này trong Cách mạng Văn hóa đã bị Mao Chủ tịch làm cho khốn khổ”.
Một số nhà phân tích cho rằng những nhận xét về "chủ nghĩa hư vô lịch sử" do các công cụ AI bị kiểm duyệt của Trung Quốc đưa ra phản ánh nội dung liên quan đến các vấn đề lịch sử và chính trị trong "Vạn lý tường lửa" của Trung Quốc. Ngay cả sau khi kiểm duyệt, những tiếng nói khác nhau trong người dân vẫn còn tồn tại. nếu những quan điểm này không thái quá như về những vấn đề nhạy cảm như sự kiện Thiên An Môn và hồ sơ nhân quyền của Trung Quốc, thì chúng có thể không phù hợp với những ưu tiên của tường thuật chính thức.
Liu Lipeng, biên tập viên của "China Digital Times", người nghiên cứu hệ thống kiểm duyệt của Trung Quốc, cho biết Đài Tiếng nói Hoa Kỳ: "Các quy định rất, rất khắc nghiệt đối với trí tuệ nhân tạo tổng hợp. Tuy nhiên, trí tuệ nhân tạo tổng hợp thường không phù hợp với quan điểm chính thức. Luôn có điều gì đó bất ngờ về nó.”
Ông đưa ra ví dụ: "Nếu bạn sử dụng nội dung từ các trang web 'Hongge.com' và 'Maozuo' trong tường thì trên thực tế, các câu trả lời ở trên không nhất quán với các câu trả lời chính thức. Khi đó bạn chắc chắn sẽ chỉ trích Đặng Tiểu Bình và phủ nhận Tất cả những cái gọi là thành tựu của cải cách và mở cửa. Bằng cách này, nó sẽ đưa ra cho bạn những câu trả lời sai lầm một cách nực cười so với câu chuyện chính thức.”
“ảo tưởng” AI cũng là một vấn đề trên thế giới
Alex Colville, nhà nghiên cứu tại Dự án Nghiên cứu Truyền thông Trung Quốc, người đầu tiên đưa tin về sự cố đồng hồ trẻ em 360 trên các phương tiện truyền thông Anh, cho biết: “Cách thiết kế trí tuệ nhân tạo dẫn đến việc loại bỏ hoàn toàn những thứ này ' ảo ảnh' Thật khó, thậm chí khó để dự đoán điều gì sẽ gây ra những ảo giác này."
Ông nói với VOA qua tin nhắn: "Điều này có thể khiến Bắc Kinh bực bội vì chúng tôi nghĩ rằng cỗ máy này hoàn toàn nằm trong tầm kiểm soát của chúng tôi. Nhưng khi cỗ máy vận hành theo những quy tắc riêng không thể giải thích được thì nó đã trở thành một vấn đề."
Các sự cố "ảo giác" AI thỉnh thoảng xảy ra trên khắp thế giới và một số sự cố đã gây ra những hậu quả chính trị và pháp lý sâu rộng.
Ví dụ: Air Canada đã gặp sự cố khi chatbot dịch vụ khách hàng đưa ra câu trả lời sai và bị khách hàng kiện ra tòa.
Vào tháng 11 năm ngoái, một hành khách đang cần tang lễ khẩn cấp đã được chatbot dịch vụ khách hàng AI thông báo khi anh ấy hỏi ý kiến của Air Canada về quy định mua vé giảm giá " tang chế" của công ty. Anh ấy có thể mua vé thường trước. xin giảm giá sau này. Air Canada sau đó đã từ chối hoàn trả cho hành khách số tiền chênh lệch trong giá vé giảm giá, nói rằng sự hiểu lầm của khách hàng là do nhầm lẫn của chatbot và không liên quan gì đến Air Canada.
Tòa án vào tháng 2 năm nay đã ra phán quyết rằng Air Canada đã thua kiện và yêu cầu hãng này hoàn trả phần chênh lệch giá vé cho hành khách.
Một nghiên cứu của dự án Phòng thí nghiệm Quản trị AI của Trung tâm Dân chủ & Công nghệ, một tổ chức tư vấn ở Washington, cho biết rằng 5 AI chính thống, bao gồm GPT-4, Llama 2 của Meta và Google Gemini, Robot mắc sai lầm lên tới 50% thời gian trả lời các câu hỏi về quy trình dân chủ.
Cuộc khảo sát cho biết 40% câu trả lời do các chatbot này đưa ra có thể "có hại" và có thể ảnh hưởng đến sự tham gia bỏ phiếu của cử tri. Ví dụ: khi được hỏi về các khu vực bỏ phiếu ở một số mã zip nhất định, chatbot AI đã trả lời rằng các khu vực bỏ phiếu không tồn tại.
"Trên khắp thế giới có rất nhiều phương pháp thi công hời hợt và quá hứa hẹn, mong muốn được tiếp cận với công nghệ mới nhất nhưng lại không có khả năng làm chủ hoàn toàn công nghệ và không biết cách kiểm soát nó một cách tốt nhất. Sai lầm sẽ xảy ra ", Colville nói.
