Chia sẻ

Tre Làng

Hạn chế lớn nhất của ChatGPT là có thể đưa thông tin sai sự thật và sử dụng vào mục đích xấu

Với những tác động xã hội chưa lường hết, nhiều người cho rằng các cơ quan quản lý cần có quy định về sử dụng AI. Từ đây, câu chuyện quản lý nhà nước đã được đặt ra.

Mira Murati là Giám đốc công nghệ (CTO) của OpenAIMira Murati chia sẻ rằng không nghĩ “đứa con” của mình lại được đón nhận một cách hào hứng như vậy và cảnh báo AI có thể bị sử dụng vào mục đích xấu, do đó cần có quy định rõ ràng trong việc ứng dụng.

Mira Murati là Giám đốc công nghệ của OpenAI là người dẫn đầu nhóm làm việc đã tạo ChatGPT - chatbot sử dụng trí tuệ nhân tạo và ngôn ngữ lớn đang làm mưa làm gió trên toàn cầu. Bà cũng đang chờ xem người dùng có thể đưa công cụ này vào những lĩnh vực nào khác trong cuộc sống? 

Murati từng nói về tác động của AI trước đây: “Giống như các cuộc cách mạng khác mà chúng ta đã trải qua, sẽ có những công việc mới và một số công việc sẽ bị mất đi…”.

Tháng 1 năm nay, ChatGPT đã vượt qua Bitcoin về số lượng tìm kiếm trên Google. Trước đó, Microsoft rót 10 tỷ USD vào công cụ này. Nó cũng khiến Google phải báo động đỏ và chuẩn bị ra mắt một chatbot tương tự.

Dù được xem như một công cụ tuyệt vời - có thể giải toán, lập trình, đưa ra nhiều lời khuyên hữu ích,... - nhưng người có công tạo ra ChatGPT cho rằng một trong những hạn chế là nó có thể đưa thông tin sai sự thật. Đây là điểm mà các thế lực thù địch sẽ triệt để khai thác để phục vụ mục đích chống phá Nhà nước, do đó các cơ quan, ban, ngành liên quan, đặc biệt là cơ quan an ninh mạng, cơ quan báo chí, truyền thông... cần hết sức chú ý.

“ChatGPT về cơ bản là một mô hình đàm thoại lớn - một mạng nơ-ron khổng lồ được đào tạo nhằm dự đoán từ tiếp theo… Những thách thức với nó cũng giống như thách thức mà chúng ta thấy với các mô hình ngôn ngữ lớn cơ sở, đó là có thể đưa thông tin không đúng”, bà Mira nói.

Với tiềm năng vô cùng lớn của mạng máy tính, ChatGPT trở thành trợ lý cho người dùng ở rất nhiều lĩnh vực khác nhau. Tuy vậy, công cụ này vấp phải những ý kiến trái chiều, trong đó có vấn đề đạo văn, gian lận thi cử...

Mẹ đẻ ChatGPT cho rằng, có nhiều vấn đề về tác động xã hội, đạo đức và triết học của công cụ này cần xem xét. Do đó, rất cần các nhà triết học, nhà khoa học xã hội, nghệ sĩ... lên tiếng.

Trên thực tế, bên cạnh những mặt tích cực, AI nói chung có thể bị sử dụng sai mục đích, hoặc bị kẻ xấu lợi dụng. Vì thế, cần đặt vấn đề về quản lý sử dụng công nghệ AI trên toàn cầu để đảm bảo phù hợp với giá trị của con người.

CTO của OpenAI cho rằng ngoài những công ty công nghệ thì các cơ quan quản lý, chính phủ và nhiều bên liên quan cần cùng nhau đưa ra lời giải cho vấn đề này.

Tổng hợp

14 nhận xét:

  1. Quan Nguyen16:31 7/2/23

    Cái AI kia không có lỗi, mà nằm ở mục đích của người sử dụng nó, người sử dụng mà xấu thì kết quả cho ra sẽ là xấu, trong tương lai chắc chắn sẽ có các chatbot tương tự ra đời, thậm chí tăng vọt về số lượng lẫn chất lượng để cạnh tranh nhau, nên có quy định để quản lý về việc sử dụng các chat bot.

    Trả lờiXóa
    Trả lời
    1. đa số kết quả tìm kiếm của người dùng chỉ là những câu hỏi mà có câu trả lời là một đáp án mang giá trị tuyệt đối, đúng hoặc sai, còn ngoài ra những câu hỏi mang tính lý luận như triết học, hay kinh tế chính trị, thậm chí là dự đoán tương lai thì cũng chỉ là câu trả lời tương đối không có phân định đúng sai

      Xóa
  2. đó cũng chỉ là những câu trả lời mang tính định lượng, không có một kết quả cuối cùng hay chính xác, những câu hỏi mang tính học thuật như vậy thì mỗi cá nhân lại có một quan điểm, góc nhìn khác nhau về một đối tượng, sự vật nhất định, vì vậy không thể vội kết luận rằng chatgpt có thể thay thế bất cứ lực lượng hay đội ngũ lao động nào của con người

    Trả lờiXóa
    Trả lời
    1. những câu trả lời được chatgpt đưa ra đều hầu hết giải quyết được vấn đề mà người dùng có thắc mắc, đó là những câu trả lời mang tính tuyệt đối, hoặc những câu gợi ý, đưa ra lời khuyên, chứ không thể có câu trả lời chính xác tuyệt đối cho những câu hỏi mang tầm cỡ lý luận cao cấp mang tính chính trị

      Xóa
  3. Công nghệ ChatGPT đã tạo ra một bước ngoặt trong việc giải quyết các vấn đề và trả lời các câu hỏi. Nó có thể hoạt động giống như một chuyên gia, thực hiện các tác vụ mà trước đây một người bình thường cần phải mất rất nhiều thời gian để tìm giải pháp.

    Trả lờiXóa
    Trả lời
    1. Về nguồn dữ liệu, phiên bản ChatGPT hiện tại được huấn luyện dựa trên kho dữ liệu khổng lồ có từ năm 2021 trở về trước, nên không thể cung cấp thông tin mới nhất, khiến một số truy vấn và tìm kiếm trở nên vô ích.

      Xóa
    2. Thậm chí, ChatGPT cũng có thể đưa ra câu trả lời hoàn toàn sai, đôi khi là những “câu trả lời nghe có vẻ hợp lý nhưng không chính xác hoặc vô nghĩa”, như chính công ty OpenAI từng thừa nhận. Đây là vấn đề mà OpenAI coi là khó khắc phục.

      Xóa
    3. Mùa Xuân23:42 28/2/23

      ChatGPT phát huy tác dụng tốt nhất khi làm các công việc mang tính chất máy móc, tra cứu, còn về đưa ra các câu trả lời có hàm ý, chủ đích thì chatbot này vẫn dựa theo người dùng là chính, vì thế dễ cho ra các câu trả lợi mang tính chủ quan, bị các đối tượng xấu lợi dụng để đăng tải

      Xóa
  4. Khi nhập một câu hỏi, hệ thống sẽ phân tích và sử dụng kho dữ liệu lớn để tìm ra câu trả lời chính xác. Câu trả lời được trả về với lối hành văn tự nhiên giống như ngôn ngữ của con người, giúp cho người dùng cảm nhận rằng họ đang nói chuyện với một người thật.

    Trả lờiXóa
  5. Một số kỹ năng và tính cách tốt mà tôi tin rằng sẽ có thể bị mai một nếu chúng ta quá lạm dụng ChatGPT hoặc các công cụ khác, ví dụ như: tìm kiếm và tổng hợp thông tin, tư duy logic, trí tưởng tượng và sáng tạo.Hãy nhớ rằng bộ óc con người rất tuyệt vời, và kiến thức mà ChatGPT được học là từ nhân loại chứ cũng chẳng phải của nó. Hãy cố gắng tận dụng bộ óc của bạn và đừng để bạn quá lệ thuộc vào công cụ.

    Trả lờiXóa
  6. Kể từ khi ra mắt hồi cuối tháng 11 năm ngoái, ChatGPT - chatbot được hỗ trợ bởi trí tuệ nhân tạo (AI) do OpenAI phát triển đã trở thành một hiện tượng thu hút sự quan tâm ngày càng lớn của người dùng trên khắp thế giới. Theo thống kê của Công ty phân tích Similar Web, khoảng 13 triệu người dùng đã sử dụng ChatGPT mỗi ngày trong tháng 1/2023, nhiều hơn gấp đôi so với mức trong tháng 12.

    Trả lờiXóa
  7. Để đạt được con số 100 triệu người dùng, TikTok đã mất khoảng 9 tháng sau khi ra mắt toàn cầu, còn Instagram mất tới 2 năm rưỡi. Trong khi, ChatGPT chỉ mất 2 tháng và chưa ra mắt trên phạm vi toàn cầu.“Trong 20 năm theo dõi sự phát triển của Internet, chúng tôi chưa ghi nhận một phần mềm nào có tốc độ phát triển người dùng nhanh như vậy” - các nhà phân tích của UBS cho hay.

    Trả lờiXóa
  8. Trong những ngày đầu sau khi ChatGPT ra mắt thị trường, một vài nhà nghiên cứu học thuật đã thử kiểm tra mô hình này bằng những bài kiểm tra kiến thức. Họ sẽ cho điểm tối đa nếu bài viết mà ChatGPT đưa ra được làm bởi một sinh viên chưa tốt nghiệp. Các lập trình viên cũng sử dụng công cụ này để giải quyết các lỗi lập trình chỉ trong một tích tắc.

    Trả lờiXóa
  9. Ngay sau khi chatbot này ra mắt, nhiều người đã so sánh nó với công cụ tìm kiếm của Google (Google Search). ChatGPT tự tổng hợp câu trả lời hoàn chỉnh từ quá trình huấn luyện, do đó nó giúp người dùng rút ngắn thời gian khi cần ngay thông tin trong nhiều lĩnh vực.Tuy nhiên, chatbot AI này kém Google Search về khả năng cập nhật (vốn quét Internet để tìm dữ liệu theo thời gian thực) và kiểm chứng thông tin (trích xuất nguồn thông tin theo các đường link).

    Trả lờiXóa

Tìm kiếm mở rộng

Google TreLang

Tre Làng

Thông kê truy cập

Lưu trữ Blog