SĐT: 
Các nhà khoa học cảnh báo
NGUY HIỂM KHI LẠM DỤNG AI TRONG KHOA HỌC
GS Nguyễn Văn Tuấn ĐH New South Wales Úc
https://www.facebook.com/t.nguyen.2016?locale=vi_VN
Hiện nay, ở Việt Nam có một trào lưu hơi nguy hiểm: dùng AI để thay thế con người làm nghiên cứu khoa học.
Tôi thấy nhiều bạn trẻ ở trong nước thích làm cái gì dễ, mà ít ai chịu khó làm cái khó. AI là một giải pháp cho những người theo con đường dễ, nhưng sẽ là con đường gây hại mà thôi.
Có những quảng cáo đầy tự tin rằng AI có thể thiết kế nghiên cứu, phân tích dữ liệu, và soạn bài báo khoa học. Và, có nhiều người tin như vậy.
Niềm tin này dẫn đến một cách làm nghiên cứu bằng “nhấp chuột”.
Không cần đọc y văn, chỉ cần kêu AI tìm và tóm tắt.
Không cần biết nguyên lí thiết kế là gì, chỉ nhấp chuột là có kết quả.
Không cần có kiến thức toán đằng sau phương pháp phân tích dữ liệu, chỉ nhấp chuột là có hết.
Không cần học cách soạn bài báo khoa học, chỉ cần cho mấy “con” như ChatGPT, Gemini, Claude viết là xong.
Nếu nghiên cứu khoa học mà như vậy thì còn gì để gọi là ‘khoa học’.
Đó là thói quen nguy hiểm vì nó sẽ tạo nên một thế hệ lười biếng, không biết khoa học là gì.
Nhóm nghiên cứu tôi đã từng xây dựng các mô hình AI để chẩn đoán loãng xương, tiên lượng gãy xương, ước tính mật độ xương. Do đó, chúng tôi có thể chia sẻ vài kinh nghiệm về AI như sau.
■ SÁNG TẠO CỦA CON NGƯỜI VÀ “SÁNG TẠO” CỦA AI KHÁC NHAU
Nghiên cứu khoa học từ bản chất là một hoạt động sáng tạo. Nhưng cần phân biệt rằng sáng tạo khoa học khác xa “sáng tạo” của AI.
AI “sáng tạo” bằng cách tổ hợp lại các mẫu văn đã có. Khi bạn yêu cầu AI viết một giả thuyết mới, nó sẽ lắp ghép các khái niệm từ hàng triệu bài báo đã đọc, tạo ra một câu trông có vẻ mới lạ. Ví dụ, nếu hỏi AI về mối liên quan giữa microbiome đường ruột và loãng xương, nó sẽ viết:
“The gut-bone axis represents a promising frontier, and modulating the microbiome may offer novel therapeutic avenues for osteoporosis prevention.”
Câu này nghe rất hấp dẫn, nhưng nó chỉ là phép cộng của hai chủ đề đang “hot” ghép lại với nhau.
AI thiếu khả năng phán xét liệu mối liên quan đó có cơ sở sinh học hay chỉ là tương quan giả.
Con người sáng tạo bằng cách nhìn thấy điều mà người khác bỏ qua. Fleming phát hiện penicillin vì ông ngạc nhiên trước một dĩa thạch bị nấm mốc xâm lấn, thay vì vứt bỏ nó như bao đồng nghiệp khác. Barbara McClintock khám phá transposon vì bà kiên nhẫn quan sát bắp suốt hàng thập niên, xem dữ liệu “nói” điều gì thay vì ép dữ liệu “nói” điều mình muốn nghe.
Einstein đi đến thuyết tương đối hẹp bằng một thí nghiệm tưởng tượng (thought experiment): “Nếu tôi cưỡi trên một tia sáng thì sẽ thấy gì?”
Đó là trực giác, là sự tò mò, là sự liều lĩnh trí tuệ. AI xử lí dữ liệu nhanh hơn con người gấp triệu lần, nhưng nó chưa bao giờ biết ngạc nhiên. Và thiếu sự ngạc nhiên, thiếu cả khoa học.
■ AI MÔ PHỎNG, AI KHÔNG SUY NGHĨ
Xin nhấn mạnh: AI mô phỏng suy nghĩ, chớ AI không suy nghĩ.
AI dùng xác suất và qui tắc liên kết (associative rules) để nối kết những câu chữ với nhau, tạo ra đầu ra trông giống sản phẩm của suy nghĩ.
AI giống như một con vẹt nói được tiếng người: âm thanh giống, nhưng con vẹt chẳng hiểu mình đang nói gì.
Một mô hình ngôn ngữ viết được đoạn văn về cơ chế bịnh sinh của loãng xương, nhưng nó không hiểu thế nào là xương, thế nào là bịnh, và thế nào là con người sống chung với bịnh.
■ AI VIẾT KHÁC HẲN CON NGƯỜI VIẾT
Nhiều bạn lầm tưởng rằng AI viết văn hay. Không phải đâu.
Để thấy rõ sự khác biệt, hãy xem cách AI và con người viết về cùng một chủ đề: mối liên quan giữa vitamin D và loãng xương.
AI viết: “Vitamin D plays a crucial role in calcium absorption and bone metabolism. Numerous studies have demonstrated a significant association between vitamin D deficiency and increased risk of osteoporotic fractures. A comprehensive approach to vitamin D supplementation is therefore essential for optimal bone health outcomes.”
Đoạn văn trông rất mượt mà, rất “khoa học”. Nếu không phải là người có kinh nghiệm trong chuyên ngành sẽ chẳng thấy vấn đề gì trong đoạn văn trên.
Nhưng đối với người có kinh nghiệm chuyên sâu, đoạn văn trên không có ý nghĩa gì cả! Nó chung chung đến mức vô nghĩa. “Numerous studies” là những nghiên cứu nào? “Significant association” là ở mức nào, trong quần thể nào, với thiết kế nghiên cứu gì? “Comprehensive approach” cụ thể là gì? “Optimal bone health outcomes” đo bằng chỉ số nào?
Toàn bộ đoạn văn là một chuỗi cụm từ sáo rỗng xâu lại với nhau, nghe rất khoa học nhưng thật ra chẳng nói được điều gì cụ thể!
Những tác giả không có kinh nghiệm khoa học, hay kinh nghiệm chưa ‘chín’, sẽ nộp bản thảo bài báo cho một tập san. Và, hậu quả có thể đoán trước: bài báo sẽ bị từ chối ngay, và tác giả sẽ được đưa vào danh sách đen.
■ BÀI BÁO KHOA HỌC “VIẾT BỞI AI” SẼ BỊ TỪ CHỐI
Trong vai trò biên tập viên (editor) của các tập san y khoa quốc tế, tôi đã chứng kiến sự gia tăng rõ rệt các bài báo mang dấu hiệu của AI. Những dấu hiệu này bao gồm:
– Ngôn ngữ quá mượt mà nhưng thiếu lập luận chiều sâu;
– Sử dụng các cụm từ mẫu (“it is worth noting that,” “a comprehensive understanding,” “in the era of”);
phần thảo luận (discussion) chung chung;
– và Đặc biệt là các lỗi “ảo giác” khi AI trích dẫn tài liệu tham khảo hoàn toàn bịa đặt.
Tôi xin nói rõ: bài báo do AI viết sẽ bị từ chối. Và, tôi đã từ chối rất nhiều bài.
Các tập san uy tín trên thế giới đã có qui định rõ ràng. Các biên tập viên và phản biện ngày càng thành thạo trong việc nhận diện “ngôn ngữ AI.”
Một bài báo bị phát hiện dùng AI sẽ bị từ chối ngay, và tệ hơn, tên tác giả sẽ bị ghi nhận.
Bạn chưa có tên trong lãnh vực chuyên môn. Bạn không đến từ một lab có tiếng. Bạn chưa từng xuất bản. Bạn chưa bao giờ được mời nói chuyện trong các hội nghị. Vậy mà đùng một cái, bạn viết những bài review và perspective như là chuyên gia. Ai tin được?
Khoa học không phải chỉ là mấy bài báo; khoa học là quá trình thiết lập chỗ đứng trong chuyên ngành, và tác động. Khoa học còn là những mối quan hệ trong hệ thống.
Trong khoa học, uy tín là vốn quí; một khi mất, rất khó lấy lại. Các nhà nghiên cứu trẻ cần hiểu rõ điều này trước khi nộp bản thảo. Đừng nghĩ rằng biên tập không nhận ra đâu là tác phẩm của AI và đâu là sáng tác của con người.
■ TÌNH HÌNH Ở VIỆT NAM
Tôi đã thấy nhiều phân tích dữ liệu ở Việt Nam. Sai rất nhiều. Sai từ phương pháp đến phương pháp luận.
Có nhiều trường hợp tác giả áp dụng những phương pháp rất phức tạp như PCA, Cluster, SEM), nhưng khi hỏi cái nền tảng của các phương pháp đó thì họ không giải thích được.
Lí do là AI viết codes và chạy, chớ tác giả không biết hay không biết giám sát.
Tôi đã dự nhiều hội nghị ở Việt Nam, và thấy rất nhiều báo cáo do AI soạn. Những bài đó có phong cách ngôn ngữ đồng nhứt đến mức bất thường, thiếu dấu ấn cá nhân của người trình bày.
Nếu AI chỉnh sửa hình thức slides thì chấp nhận được, nhưng để cho AI sáng tác nội dung thì không thể chấp nhận được. Khi đó, nhà khoa học đã thoái vai trò sáng tạo rồi.
Tôi đọc nhiều bài báo trên các tập san y học ở Việt Nam (tiếng Anh), và thấy rõ ràng dấu vết của AI. Nhưng chẳng hiểu sao ban biên tập không nhận ra. Thật là nguy hiểm.
Điều này phản ảnh một xu hướng nguy hiểm: người ta dùng AI để thay thế suy nghĩ chớ chẳng phải để hỗ trợ suy nghĩ.
■ “ĐI TẮT ĐÓN ĐẦU” HAY ĐI VÀO NGÕ CỤT ?
Một khẩu hiệu phổ biến ở Việt Nam là “đi tắt đón đầu” trong ứng dụng AI. Nhưng cách thức “đi tắt” đang được thực hiện lại đi ngược lại tinh thần của khoa học công nghệ.
Thay vì phát triển thuật toán mới, xây dựng mô hình AI mới phục vụ hay giải quyết các vấn đề cụ thể của Việt Nam, hay đóng góp vào hạ tầng công nghệ nền tảng, đa số chỉ dừng ở mức sử dụng các công cụ AI có sẵn để tạo nội dung: phán tích, viết bài, làm slide, soạn báo cáo.
Đó không phải đi tắt; đó là đi vào ngõ cụt.
Một khi nhà khoa học dùng AI để viết bài báo khoa học thay vì để giải quyết các vấn đề khoa học thực thì họ đang tự tước đi năng lực sáng tạo của chính mình.
■ Hậu quả 1: Automation bias
Tâm lí học ghi nhận một hiện tượng gọi là automation bias (thiên kiến tự động hóa): con người có xu hướng tin tưởng quá mức vào kết quả do máy tính đưa ra, cho dù kết quả đó sai.
Trong bối cảnh AI và khoa học, thiên kiến này biểu hiện khi nhà nghiên cứu chấp nhận phân tích của AI mà bỏ qua kiểm chứng, khi bác sĩ dựa vào chẩn đoán AI mà quên đối chiếu với lâm sàng, khi tác giả gửi bài báo do AI soạn mà chẳng buồn đọc kĩ lại. Thiên kiến tự động hóa tạo ra lỗi mà chính cơ chế kiểm tra đã bị vô hiệu hóa.
■ Hậu quả 2: deskilling / thoái hóa kĩ năng
Khái niệm cognitive offloading (trút tải nhận thức) mô tả hiện tượng con người chuyển giao các nhiệm vụ trí tuệ cho công cụ bên ngoài: máy tính bỏ túi thay cho phép tính nhẩm, GPS thay cho khả năng định hướng, và bây giờ, AI thay cho khả năng viết và suy luận.
Bản thân việc trút tải nhận thức là bình thường, bởi con người vẫn luôn dùng công cụ để mở rộng năng lực. Vấn đề nằm ở mức độ và bản chất: khi trút tải đến mức khả năng gốc bị teo dần, chúng ta rơi vào tình trạng deskilling (thoái hóa kĩ năng).
Thoái hoá kĩ năng là hậu quả rất nghiêm trọng. Một bác sĩ dùng AI hỗ trợ chẩn đoán phân biệt là chuyện bình thường. Nhưng một bác sĩ thiếu khả năng tự lập luận lâm sàng nếu vắng AI thì đã bị thoái hóa kĩ năng.
Tương tự, một nhà nghiên cứu viết chẳng nổi một đoạn văn mạch lạc nếu thiếu AI, thì đó là triệu chứng của sự phụ thuộc bệnh lí chớ chẳng phải biểu hiện của tiến bộ.
Hiện tượng này tương đồng với khái niệm digital amnesia (mất trí nhớ kĩ thuật số), còn gọi là Google Effect, khi não bộ ngừng lưu giữ thông tin mà nó biết có thể tra cứu dễ dàng. Với AI, phạm vi mất mát mở rộng ra cả khả năng suy luận, sáng tạo, và diễn đạt.
■ Hậu quả 3: khủng hoảng đạo đức
Dùng AI viết bài báo khoa học và gởi đăng dưới tên mình đặt ra câu hỏi nghiêm trọng về đạo đức khoa học. Ai là tác giả thực sự? Tác giả có hiểu nội dung mình kí tên hay không? Nếu bài báo chứa sai sót (số liệu sai, tài liệu tham khảo bịa, kết luận không nhứt quán với dữ liệu) thì ai chịu trách nhiệm?
Nhiều tập san quốc tế đã ban hành qui định về sử dụng AI, yêu cầu tác giả khai báo. Khai báo dùng công cụ AI nào, thậm chí khai báo cả ‘prompt’ đã dùng là gì.
Nhưng qui định chỉ hiệu quả khi có văn hóa trung thực làm nền tảng. Khi cả một hệ thống coi bài báo là “sản phẩm đầu ra” cần đạt chỉ tiêu số lượng, áp lực xuất bản (publish or perish) sẽ biến AI thành công cụ sản xuất hàng loạt, và khoa học biến thành nhà máy.
Trong y khoa, hệ quả còn trầm trọng hơn. Một bài báo y học sai có thể ảnh hưởng đến quyết định lâm sàng, đến phác đồ điều trị, đến tánh mạng bệnh nhân. Khi y văn bị nhiễm bởi nội dung do AI tạo ra mà thiếu kiểm chứng, nền tảng bằng chứng mà y học hiện đại dựa vào sẽ bị lung lay.
■ LỐI RA: DÙNG AI ĐÚNG CÁCH TRONG NGHIÊN CỨU KHOA HỌC
AI là một công cụ mạnh mẽ nếu được dùng đúng chỗ, đúng cách. Dưới đây là một số nguyên tắc và đề xuất.
(a) Nguyên tắc chánh: AI giúp đỡ chớ AI không thay thế chúng ta.
AI có thể giúp tìm kiếm tài liệu, kiểm tra ngữ pháp, gợi ý cấu trúc, hoặc tự động hóa các tác vụ kĩ thuật lặp đi lặp lại như tiền xử lí dữ liệu. Nhưng suy nghĩ, gồm đặt câu hỏi, thiết kế nghiên cứu, diễn giải kết quả, xây dựng lập luận, phải là của con người.
Qui tắc đơn giản: nếu bạn thiếu khả năng giải thích rõ ràng từng câu trong bài báo của mình khi vắng AI, bạn không nên là tác giả.
(b) Đào tạo năng lực nền tảng trước khi dạy dùng công cụ
Các đại học và viện nghiên cứu cần ưu tiên xây dựng năng lực khoa học, kể cả kĩ năng viết văn khoa học và phương pháp luận nghiên cứu. Sinh viên cần biết viết trước khi biết dùng AI viết dùm, giống như cần biết tính nhẩm trước khi dùng máy tính bỏ túi.
Một nền giáo dục cho phép sinh viên dùng AI từ quá sớm, trước khi hình thành kĩ năng nền tảng sẽ tạo ra một thế hệ thiếu hụt năng lực cốt lõi.
(c) Minh bạch trong sử dụng AI.
Tất cả bài báo khoa học sử dụng AI trong bất kì giai đoạn nào, từ phân tích dữ liệu đến chỉnh sửa ngôn ngữ, cần khai báo rõ ràng.
Các tập san khoa học đã có qui định cụ thể và cơ chế kiểm tra. Biên tập viên và phản biện cần được trang bị khả năng nhận diện nội dung do AI tạo ra.
(d) Chuyển hướng từ “dùng AI” sang “phát triển AI.”
Đối với Việt Nam, giá trị thực sự của AI nằm ở việc phát triển các công cụ, thuật toán, và ứng dụng phục vụ các vấn đề thực tế: xử lí ngôn ngữ tiếng Việt, mô hình dự báo dịch tễ phù hợp với dữ liệu Việt Nam, hệ thống hỗ trợ chẩn đoán cho tuyến y tế cơ sở.
Đó mới thực sự là “đi tắt đón đầu”: đóng góp vào hạ tầng tri thức thay vì chỉ tiêu thụ sản phẩm do người khác xây dựng.
Cuối cùng, không có qui định nào thay thế được văn hóa. Khi cộng đồng khoa học coi trọng chất lượng hơn số lượng, coi trọng suy nghĩ độc đáo hơn bài báo bóng bẩy, khi đó AI sẽ tự nhiên tìm được vị trí đúng của nó: một công cụ hỗ trợ chớ không phải một cái nạng thay thế.
■ KẾT LUẬN
AI tự thân không nguy hiểm. Lạm dụng AI mới nguy hiểm. Sự khác biệt nằm ở ý thức của người sử dụng.
Một con dao mổ trong tay phẫu thuật viên là công cụ cứu người; nhưng trong tay người thiếu huấn luyện, nó trở thành mối nguy. AI trong khoa học cũng vậy.
Điều đáng lo ngại nhứt không phải AI sẽ thay thế nhà khoa học (vì sẽ không bao giờ xảy ra), mà là nhà khoa học tự nguyện giao nộp cái não của mình cho AI. Khi việc đó xảy ra, nhà khoa học dần dần mất khả năng suy nghĩ độc lập, và không còn là nhà khoa học đúng nghĩa.
Khi đó, xã hội không còn nhà khoa học nữa, mà chỉ còn những người vận hành AI, và sản phẩm họ tạo ra chẳng phải khoa học, mà chỉ là mô phỏng khoa học.
Trách nhiệm thuộc về tất cả chúng ta: nhà nghiên cứu, nhà giáo dục, biên tập viên tập san, nhà quản lí khoa học, và cả những người phát triển AI.
Chúng ta cần dùng AI để mở rộng biên giới tri thức, chớ chẳng phải để thu hẹp năng lực suy nghĩ của con người. Và để làm được điều đó, bước đầu tiên là nhận thức rằng AI không nghĩ thay chúng ta được, và chúng ta không nên để nó làm như vậy.
