แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

นักวิจัยด้านความปลอดภัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่อาจถูกใช้เป็นโปรแกรมสอดแนม เรียกว่า "SpAIware" สามารถส่งข้อมูลการสนทนาไปยังเซิร์ฟเวอร์ภายนอกได้ ผู้ใช้ควรระมัดระวังและหลีกเลี่ยงการสแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

Key takeaway

  • นักวิจัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่เรียกว่า "SpAIware" ซึ่งสามารถใช้เป็นโปรแกรมสอดแนมได้ โดยการฝัง prompt injection ที่มีคำสั่งอันตรายเข้าไปในหน่วยความจำระยะยาวของ AI
  • ผู้โจมตีสามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ โดยไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย
  • OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว แต่ผู้ใช้ควรระมัดระวังโดยใช้เครื่องมือจัดการหน่วยความจำของแอป และหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

"TrustNoAI" รหัสลับแฮกเกอร์หมวกขาวเปิดโปง ChatGPT นักวิจัยด้านความปลอดภัย Johann Rehberger ได้ค้นพบช่องโหว่ใน ChatGPT ที่อาจถูกใช้เป็นโปรแกรมสอดแนมได้เขาตั้งชื่อการโจมตีนี้ว่า "SpAIware" ซึ่งใช้ประโยชน์จากฟีเจอร์ใหม่ของแอป ChatGPT

สำหรับ macOS Rehberger พบว่าสามารถสร้าง prompt injection ที่มีคำสั่งอันตราย ส่งข้อมูลการสนทนาของผู้ใช้ไปยังเซิร์ฟเวอร์ภายนอกได้ นอกจากนี้ยังสามารถเก็บคำสั่งนี้ไว้ในหน่วยความจำระยะยาวของ ChatGPT ทำให้การโจมตียังคงทำงานต่อเนื่องแม้จะเริ่มการสนทนาใหม่

ที่น่ากังวลคือ ผู้โจมตีไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง แต่สามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย ก็สามารถติดตั้ง SpAIware ได้แล้ว โชคดีที่ช่องโหว่นี้ยังจำกัดอยู่เฉพาะแอป ChatGPT บน macOS เท่านั้น ไม่ส่งผลกระทบต่อเวอร์ชันเว็บไซต์ OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว โดยปิดกั้นการส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก แต่ยังคงมีความเสี่ยงที่แฮกเกอร์จะสามารถทำ prompt injection เข้าไปในหน่วยความจำระยะยาวได้

ผู้ใช้ควรระมัดระวังและใช้เครื่องมือจัดการหน่วยความจำของแอปเพื่อตรวจสอบและลบรายการที่น่าสงสัย นอกจากนี้ควรหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ เพื่อป้องกันการติดตั้ง SpAIware โดยไม่รู้ตัว

Why it matters

💡
ผู้อ่านควรติดตามข่าวนี้เพราะเป็นการเปิดเผยช่องโหว่ด้านความปลอดภัยที่สำคัญใน ChatGPT ซึ่งเป็น AI chatbot ยอดนิยม การค้นพบนี้แสดงให้เห็นถึงความเสี่ยงที่แฝงอยู่ในเทคโนโลยี AI และความสำคัญของการรักษาความปลอดภัยทางไซเบอร์ ข่าวนี้ให้ข้อมูลที่มีค่าเกี่ยวกับวิธีการป้องกันตนเองจากภัยคุกคามที่อาจเกิดขึ้น และเน้นย้ำถึงความจำเป็นในการใช้เทคโนโลยี AI อย่างรอบคอบและระมัดระวัง

ข้อมูลอ้างอิงจาก https://www.techspot.com/news/104881-chatgpt-vulnerability-allows-hackers-record-sessions-indefinitely.html

Read more

ภาพรีแบรนด์ Google Bard เป็น Gemini พร้อมโลโก้ Google และไอคอน AI เช่น แปลภาษาและเอกสาร สะท้อนก้าวใหม่ของ Google

news

Google Gemini คืออะไร? AI model และ chatbot ทำงานอย่างไรในปี 2024

Google เปลี่ยนชื่อ AI จาก Bard เป็น Gemini พร้อมอัพเกรดความสามารถเพื่อแข่งขันกับ ChatGPT และ Claude ในตลาด AI ที่กำลังเติบโต สะท้อนความมุ่งมั่นของ Google ในการพัฒนาเทคโนโลยี AI อย่างต่อเนื่อง

By
NVIDIA เปิดตัว AI ใหม่เพื่อพัฒนาหุ่นยนต์มนุษย์ ภาพแสดงหุ่นยนต์ที่ทำงานร่วมกับมนุษย์บนคอมพิวเตอร์ สื่อถึงเทคโนโลยีล้ำสมัย

news

NVIDIA เปิดตัว AI ใหม่ที่มุ่งเป้าไปที่การฝึกหุ่นยนต์ลักษณะมนุษย์

NVIDIA เปิดตัวระบบ AI ใหม่เพื่อพัฒนาหุ่นยนต์มนุษย์ให้มีประสิทธิภาพมากขึ้น นับเป็นความก้าวหน้าครั้งสำคัญในวงการหุ่นยนต์ แม้จะมีความกังวลเรื่องจริยธรรมและความเสี่ยง แต่ก็เป็นพัฒนาการที่น่าติดตาม

By
ภาพคู่รักกอดกันในห้องนั่งเล่น ฉากจากหนัง “Here” ที่ใช้ AI ปฏิวัติเทคโนโลยีการถ่ายทำ สื่อถึงนวัตกรรมในวงการภาพยนตร์

news

ภาพยนตร์ "Here" ใช้ AI ปรับอายุนักแสดงแบบ real-time

TriStar Pictures เปิดตัวภาพยนตร์ "Here" ใช้ AI ปรับอายุนักแสดงนำแบบเรียลไทม์ตลอด 60 ปี นับเป็นก้าวสำคัญของการใช้ AI ในวงการภาพยนตร์ แม้จะมีข้อถกเถียงเรื่องจริยธรรม แต่เทคโนโลยีนี้กำลังเปิดโอกาสใหม่ๆ ให้วงการ

By
หญิงอเมริกันนั่งทำงานอย่างเครียด มีธงชาติสหรัฐฯ และคำว่า "Task Automation" สื่อถึงปัญหางานล้นและความคาดหวังให้ AI มาช่วย

news

นักคิดเชิงสร้างสรรค์พึ่งพา Generative AI มากขึ้นเมื่อภาระงานเพิ่มสูงขึ้น

รายงานล่าสุดเผยคนทำงานในสหรัฐฯ เผชิญปัญหางานล้น ปริมาณงานเพิ่มขึ้น 31% ในปีที่ผ่านมา หลายคนหันมาใช้ AI ช่วยงาน คาดว่าจะประหยัดเวลาได้ 4 ชั่วโมงต่อสัปดาห์ แต่องค์กรส่วนใหญ่ยังไม่พร้อมรับมือกับการใช้ AI ของพนักงาน

By