Làm việc với trợ lý AI Tiểu Đào, đây là cách tôi giữ tự chủ nhận thức

Ông Đào Trung Thành - tác giả cuốn Đạo đức AI: Nguyên tắc và thực hành. Ảnh: TIMES.

AI và con người cần được phân vai như thế nào trong công việc viết và biên tập, để phát huy thế mạnh của cả hai? Có quy tắc nào giúp nhà xuất bản, biên tập viên, tác giả xây dựng một hệ thống phối hợp có trách nhiệm giữa AI và con người?

AI và con người - phân vai ra sao khi ra quyết định?

Thứ nhất, cần phân biệt đóng góp vào quá trình tạo ra tác phẩm, đóng góp sáng tạo trí tuệ và tư cách chịu trách nhiệm của tác giả.

Chúng ta thường sử dụng từ "tác giả" như thể nó có một nghĩa duy nhất, trong khi thực tế có ít nhất ba nghĩa khác nhau. Một là ai đã tạo ra văn bản theo nghĩa nhân quả (Causal contribution)? Hai là ai đã có những đóng góp sáng tạo và trí tuệ thực chất (Creative and intellectual contribution)? Ba là ai có tư cách pháp lý và trách nhiệm đối với tác phẩm?

AI có thể viết hàng nghìn trang, phát hiện mâu thuẫn, đề xuất lập luận mà con người chưa nghĩ tới. Không thể phủ nhận những đóng góp ấy chỉ vì chúng đến từ máy móc. Nhưng khả năng tạo ra văn bản chưa tự động trao cho AI tư cách tác giả theo nghĩa pháp lý hoặc tư cách chủ thể chịu trách nhiệm đạo đức (Moral agent). Hiện nay, chúng ta chưa có cơ sở đủ vững chắc để quy thuộc trách nhiệm đạo đức cho các hệ thống AI theo cách vẫn áp dụng với con người.

Tôi có một trải nghiệm khá trực tiếp. Khi viết các bài nghiên cứu, bình luận hoặc những bài dài về công nghệ và triết học, tôi thường tự chọn chủ đề, gạch đầu dòng những ý chính, xác định luận điểm mình muốn bảo vệ, rồi giao cho Tiểu Đào, tên tôi đặt cho trợ lý AI trên ChatGPT, viết bản thảo. Sau đó tôi đọc, phản biện, yêu cầu làm rõ những chỗ còn mơ hồ hoặc thiếu logic, sửa câu chữ, bổ sung trải nghiệm cá nhân và những luận điểm mới.

Tiểu Đào lại viết tiếp, tôi lại rà soát. Đặc biệt, công việc kiểm tra nguồn, đối chiếu dẫn chứng và xem xét liệu lập luận có thực sự được biện minh hay không thường mất công sức gấp năm, thậm chí mười lần so với thời gian Tiểu Đào phun ra bản thảo như máy. Đó là tỷ lệ từ kinh nghiệm làm việc của tôi, không phải một thống kê khoa học. Nhưng nó cho thấy tốc độ tạo ra văn bản và công sức cần thiết để chịu trách nhiệm về văn bản ấy là hai chuyện rất khác nhau.

Thứ hai, cần phân biệt ủy thác nhận thức (Cognitive offloading) với buông quyền phán đoán (Cognitive surrender). Giám sát của con người chỉ có ý nghĩa khi con người thực sự còn năng lực phán đoán.

Con người vốn luôn sử dụng công cụ để giảm gánh nặng nhận thức. Chúng ta dùng máy tính để tính toán, thư viện để lưu trữ tri thức, công cụ tìm kiếm để tra cứu. Trong tâm lý học nhận thức, hiện tượng này được gọi là "cognitive offloading". Risko và Gilbert đã nghiên cứu khá hệ thống về nó từ năm 2016. Bản thân việc giao một phần công việc trí óc cho công cụ không có gì đáng lên án. Vấn đề trở nên nghiêm trọng khi con người bắt đầu tiếp nhận kết quả mà không còn xem xét hoặc thực hiện sự phán đoán của chính mình.

Nghiên cứu của Steven Shaw và Gideon Nave năm 2026 sử dụng thuật ngữ "cognitive surrender" để mô tả xu hướng chấp nhận câu trả lời của AI với rất ít sự kiểm tra, ngay cả khi nó sai. Tôi tạm gọi đó là sự buông quyền phán đoán. Đây là một khái niệm nghiên cứu còn mới, nhưng rất hữu ích để suy nghĩ về cách chúng ta đang làm việc với AI.

Và tôi phải thừa nhận ngay cả quy trình viết của mình cũng có nguy cơ ấy. Khi Tiểu Đào đưa ra một đoạn văn mạch lạc, đúng giọng và có vẻ rất thuyết phục, đôi khi người viết dễ chấp nhận nó hơn mức cần thiết. Nguy hiểm hơn, AI có thể ảnh hưởng đến cách mình đặt vấn đề, lựa chọn tiền đề hoặc sắp xếp lập luận mà bản thân không nhận ra.

Tôi từng tuyên bố lập trường rằng dù AI có viết đến 90% câu chữ, tôi vẫn phải bảo đảm khả năng hiểu, kiểm soát, kiểm chứng nội dung và chịu trách nhiệm về những gì mang tên mình. Nhưng gần đây tôi cũng phải tự hỏi: 10% còn lại liệu đã chắc hoàn toàn là của mình, khi AI ngày càng giỏi gợi ý cả những điều mình chưa nghĩ tới?

Tôi không xem đó là một điều đáng xấu hổ. Nó là một câu hỏi nghiêm túc về tính nguyên bản và tự chủ nhận thức (Epistemic autonomy). Phân biệt giữa "offloading" và "surrender" không nằm ở số chữ AI viết, mà ở việc chúng ta có thực sự xem xét, hiểu và có khả năng bác bỏ những gì AI đề xuất hay không. Dĩ nhiên, ngay cả khi tự tin rằng mình đã kiểm soát, chúng ta cũng có thể đang đánh giá quá cao năng lực kiểm soát của chính mình.

Thứ ba, AI có thể có ưu thế nhận thức trong một công việc, nhưng điều đó chưa tự động trao cho AI thẩm quyền quyết định các giá trị của tác phẩm.

Giả sử AI đề xuất sửa một đoạn tiểu thuyết khiến nó dễ đọc hơn, ngắn gọn hơn và có khả năng tiếp cận nhiều độc giả hơn, nhưng tác giả từ chối vì cho rằng cách diễn đạt ban đầu mới phản ánh đúng phong cách của mình. Ai đúng?

Nếu nhìn theo hệ quả luận (Consequentialism), chúng ta có lý do quan tâm đến lợi ích của việc mở rộng khả năng tiếp cận tác phẩm. Nhưng bổn phận luận (Deontology) nhắc đến quyền của tác giả, những thỏa thuận đã cam kết và các giới hạn không nên vượt qua. Trong khi đó, đức hạnh luận (Virtue ethics) đặt câu hỏi liệu người biên tập có đủ sự tinh tế, cẩn trọng và năng lực phán đoán nghề nghiệp để phân biệt lỗi diễn đạt với một lựa chọn nghệ thuật có chủ ý hay không? Ba lăng kính này là những phương pháp xem xét một quyết định, thay vì ba chiếc máy tạo ra đáp án đạo đức.

Cá nhân tôi ngày càng nghiêng về thừa nhận rằng có nhiều lý do đạo đức quan trọng và đôi khi xung đột với nhau. Nhưng điều đó không có nghĩa mọi lựa chọn đều đúng hoặc đều có giá trị ngang nhau.

Trong các chương trình đào tạo và tư vấn cho doanh nghiệp, từ các tổ chức công nghệ, viễn thông đến lĩnh vực điện lực, tôi thường phải đưa những vấn đề tưởng như thuần kỹ thuật trở lại câu hỏi về quyền quyết định và trách nhiệm. AI có thể đề xuất rất nhanh, nhưng ai kiểm chứng, ai có quyền phản đối, ai được phép dừng và ai chịu trách nhiệm khi xảy ra thiệt hại? Chương 5 cuốn Đạo đức AI bàn cụ thể về phân vai, quyền can thiệp và bằng chứng quản trị.

Đối với ngành xuất bản cũng vậy. Nếu một biên tập viên phải phê duyệt hàng trăm trang AI tạo ra trong thời gian không đủ để đọc kỹ, sự phê duyệt rất dễ trở thành hình thức, hay "rubber stamping".

Có một sự phân biệt rất quan trọng: thông minh hơn không đương nhiên có nghĩa là có quyền quyết định thay người khác. Một bác sĩ hiểu bệnh hơn bệnh nhân, nhưng vẫn phải tôn trọng quyền tự quyết của người bệnh. Một biên tập viên có thể viết hay hơn tác giả, nhưng không vì thế mà được tự ý thay đổi tư tưởng hay phong cách của tác phẩm.

AI cũng vậy. Nó có thể phát hiện lỗi chính xác hơn, lập luận sắc bén hơn, thậm chí đưa ra những phương án tốt hơn con người. Khi đó, chúng ta có lý do để lắng nghe AI, thậm chí giao cho nó một số quyết định trong phạm vi được cho phép. Nhưng năng lực biết điều gì đúng và thẩm quyền quyết định điều gì nên làm là hai chuyện khác nhau.

Thẩm quyền ấy còn liên quan đến quyền của những người bị ảnh hưởng, mục đích của hoạt động, những giá trị cần bảo vệ và trách nhiệm khi quyết định gây hậu quả. Vì thế, tôi không cho rằng con người phải giữ quyền quyết định đơn giản vì con người thông minh hơn AI. Cách biện minh ấy sẽ ngày càng khó đứng vững. Vấn đề là ai có quyền quyết định, quyền ấy từ đâu mà có, trong giới hạn nào và ai chịu trách nhiệm về quyết định đó?

Cuốn Đạo đức AI: Nguyên tắc và thực hành. Ảnh: TIMES.

Xây dựng quy trình để AI và con người phối hợp có trách nhiệm

Một, trước hết phải phân biệt tính chính xác, sự trung thực trí tuệ và tính chính đáng về đạo đức.

Một cuốn sách có thể đúng về số liệu nhưng sử dụng dữ liệu cá nhân không được phép. Một lập luận có thể hợp lệ về logic nhưng dựa trên những tiền đề đạo đức gây tranh cãi. Một tác giả có thể trình bày những quan điểm chưa được kiểm chứng, miễn là nói rõ đó là giả thuyết, chứ không biến chúng thành kết luận khoa học chắc chắn. Đây là sự phân biệt giữa nhận thức luận, đạo đức chuẩn tắc và những nghĩa vụ pháp lý liên quan.

Nếu gộp tất cả thành yêu cầu AI phải "viết đúng", chúng ta rất dễ mắc lỗi phân loại khái niệm. Trong Chương 1 cuốn Đạo đức AI, tôi phân biệt sai số kỹ thuật với tác hại thực tế. Sự khác biệt ấy đặc biệt quan trọng trong xuất bản, vì một văn bản có thể đúng về kỹ thuật mà vẫn gây ra những hậu quả không thể biện minh.

Khi làm việc với các trường đại học, đặc biệt trong những chương trình hướng dẫn giảng viên y khoa sử dụng AI để nghiên cứu, tìm tài liệu, soạn học liệu và xây dựng nội dung giảng dạy, tôi quan tâm đến việc người sử dụng có thể kiểm tra và bảo vệ kết quả hay không.

Chẳng hạn, một hệ thống AI có thể tạo rất nhanh một tài liệu hướng dẫn bệnh nhân hoặc tổng hợp một chủ đề y khoa. Nhưng chúng ta vẫn phải đối chiếu với nguồn chuyên môn, kiểm tra những khuyến nghị có nguy cơ gây hại và xem liệu nội dung có phù hợp với đối tượng tiếp nhận.

Trong các hoạt động thực hành, chúng tôi đưa cả việc phản biện chéo và kiểm chứng tài liệu vào quy trình. Điều cần tránh là nhầm lẫn giữa việc hoàn thành một sản phẩm học tập với việc người học thực sự hiểu sản phẩm ấy.

Chương 11 cuốn sách cũng đề cập nguy cơ ủy thác nhận thức quá mức trong giáo dục. Một bài làm rất đẹp chưa chắc chứng minh người học đã hiểu sâu, cũng như một bản thảo rất mạch lạc chưa chắc chứng minh tác giả có thể bảo vệ những luận điểm bên trong.

Hai, quy trình xuất bản có AI cần được thiết kế dựa trên rủi ro, trách nhiệm và bằng chứng, chứ không bắt đầu bằng việc lựa chọn công cụ.

Nếu tư vấn cho một nhà xuất bản, tôi sẽ hỏi trước hết họ đang làm loại sách nào, phục vụ độc giả nào và điều gì có thể xảy ra nếu nội dung sai. Một tiểu thuyết, một cuốn sách phổ biến kiến thức và một cuốn hướng dẫn điều trị bệnh không thể có cùng mức kiểm soát. Từ đó mới thiết kế các công đoạn: xác định mục đích và rủi ro, kiểm soát quyền sử dụng dữ liệu, nghiên cứu và biên tập với AI, kiểm chứng nguồn, phê duyệt thực chất, rồi tiếp nhận phản hồi và sửa sai sau xuất bản.

Chương 4, 5 và 6 của cuốn sách phát triển cách tiếp cận quản trị AI xuyên suốt vòng đời, phân vai trách nhiệm và đánh giá tác động. Những nguyên tắc ấy có thể vận dụng vào ngành xuất bản, nhưng cần điều chỉnh cho đặc thù sáng tạo và biên tập. Chẳng hạn, không nhất thiết phải lưu toàn bộ lịch sử trao đổi với AI. Cần lưu những bằng chứng đủ quan trọng để truy vết nguồn, hiểu những thay đổi thực chất và xác định ai có trách nhiệm phê duyệt.

Từ trải nghiệm viết sách và làm việc với các tổ chức, tôi thấy một cám dỗ rất lớn của AI là nó giúp chúng ta tạo ra sản phẩm quá dễ dàng. Một bản báo cáo, tài liệu đào tạo, đề án hay chương sách có thể xuất hiện trong vài phút. Nhưng phần việc tốn công nhất nằm ở phía sau: đọc lại, kiểm tra các dẫn nguồn, phân biệt điều đã được chứng minh với điều chỉ nghe có vẻ hợp lý, đối chiếu với thực tế và loại bỏ những khẳng định quá mức.

Khi viết cuốn Đạo đức AI, tôi cũng phải liên tục đi qua những công đoạn như vậy. Bản thân việc có nhiều nguồn trích dẫn không làm một lập luận trở nên đáng tin nếu các nguồn ấy không thực sự hỗ trợ điều đang được khẳng định. AI còn có thể tạo ra những trích dẫn hoàn toàn không tồn tại. Tôi thường nói với học viên rằng công việc khó không nằm ở chỗ khiến AI trả lời, mà ở chỗ biết khi nào câu trả lời ấy đáng tin, khi nào cần nghi ngờ và phải kiểm chứng bằng cách nào. Dùng thêm một AI khác để kiểm tra cũng chưa đủ, bởi hai hệ thống có thể mắc cùng một sai lầm.

Ba, một quy trình có đạo đức phải thừa nhận khả năng sai lầm và có cơ chế sửa sai, kể cả khi chính các nguyên tắc quản trị của nó cần được sửa đổi.

Tôi muốn đưa thêm một quan điểm từ nhận thức luận: khả sai luận (Fallibilism). Đó là lập trường cho rằng những niềm tin và khẳng định tri thức của chúng ta có thể sai, ngay cả khi hiện có những lý do tốt để chấp nhận chúng. Đây là một thái độ rất cần thiết trong thời đại AI.

Một cuốn sách đã được phản biện và kiểm chứng vẫn có thể chứa sai sót; một quy trình được thiết kế cẩn thận vẫn có thể bỏ qua những rủi ro chưa được nhận diện. Vì thế, nhà xuất bản cần có cơ chế tiếp nhận phản biện, đính chính, cập nhật và khi cần thiết phải thu hồi hoặc cảnh báo về tác phẩm.

Trong cuốn Đạo đức AI, tôi nhấn mạnh việc thiết kế quyền phản đối, khả năng truy vết và cơ chế khắc phục. Áp dụng vào xuất bản, những điều ấy cho phép biến khả sai luận từ một thái độ triết học thành thực hành quản trị.

Nhưng khả sai luận không phải lý do để giảm nhẹ trách nhiệm. Một tác giả không thể nói rằng mọi tri thức đều có thể sai để biện hộ cho việc công bố những khẳng định mình biết là thiếu căn cứ. Tôi cũng phải áp dụng nguyên tắc ấy với chính mình. Khi làm việc cùng Tiểu Đào, có những lúc tôi nhận ra một luận điểm ban đầu của mình không vững, hoặc một phản biện do AI đưa ra khiến mình phải sửa lại cách nhìn. Đó là điều tốt.

Tôi không cần chứng minh mình luôn đúng trước AI. Nhưng tôi cũng phải cảnh giác trước cảm giác rằng một lập luận được AI trình bày trôi chảy hơn thì đương nhiên có giá trị hơn.

Người viết cần giữ được khả năng nói "tôi chưa biết", "điều này chưa đủ bằng chứng", hoặc "tôi đã thay đổi quan điểm". Một nhà xuất bản đáng tin cậy cũng cần có năng lực tương tự ở cấp độ tổ chức.