แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

นักวิจัยด้านความปลอดภัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่อาจถูกใช้เป็นโปรแกรมสอดแนม เรียกว่า "SpAIware" สามารถส่งข้อมูลการสนทนาไปยังเซิร์ฟเวอร์ภายนอกได้ ผู้ใช้ควรระมัดระวังและหลีกเลี่ยงการสแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

Key takeaway

  • นักวิจัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่เรียกว่า "SpAIware" ซึ่งสามารถใช้เป็นโปรแกรมสอดแนมได้ โดยการฝัง prompt injection ที่มีคำสั่งอันตรายเข้าไปในหน่วยความจำระยะยาวของ AI
  • ผู้โจมตีสามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ โดยไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย
  • OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว แต่ผู้ใช้ควรระมัดระวังโดยใช้เครื่องมือจัดการหน่วยความจำของแอป และหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

"TrustNoAI" รหัสลับแฮกเกอร์หมวกขาวเปิดโปง ChatGPT นักวิจัยด้านความปลอดภัย Johann Rehberger ได้ค้นพบช่องโหว่ใน ChatGPT ที่อาจถูกใช้เป็นโปรแกรมสอดแนมได้เขาตั้งชื่อการโจมตีนี้ว่า "SpAIware" ซึ่งใช้ประโยชน์จากฟีเจอร์ใหม่ของแอป ChatGPT

สำหรับ macOS Rehberger พบว่าสามารถสร้าง prompt injection ที่มีคำสั่งอันตราย ส่งข้อมูลการสนทนาของผู้ใช้ไปยังเซิร์ฟเวอร์ภายนอกได้ นอกจากนี้ยังสามารถเก็บคำสั่งนี้ไว้ในหน่วยความจำระยะยาวของ ChatGPT ทำให้การโจมตียังคงทำงานต่อเนื่องแม้จะเริ่มการสนทนาใหม่

ที่น่ากังวลคือ ผู้โจมตีไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง แต่สามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย ก็สามารถติดตั้ง SpAIware ได้แล้ว โชคดีที่ช่องโหว่นี้ยังจำกัดอยู่เฉพาะแอป ChatGPT บน macOS เท่านั้น ไม่ส่งผลกระทบต่อเวอร์ชันเว็บไซต์ OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว โดยปิดกั้นการส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก แต่ยังคงมีความเสี่ยงที่แฮกเกอร์จะสามารถทำ prompt injection เข้าไปในหน่วยความจำระยะยาวได้

ผู้ใช้ควรระมัดระวังและใช้เครื่องมือจัดการหน่วยความจำของแอปเพื่อตรวจสอบและลบรายการที่น่าสงสัย นอกจากนี้ควรหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ เพื่อป้องกันการติดตั้ง SpAIware โดยไม่รู้ตัว

Why it matters

💡
ผู้อ่านควรติดตามข่าวนี้เพราะเป็นการเปิดเผยช่องโหว่ด้านความปลอดภัยที่สำคัญใน ChatGPT ซึ่งเป็น AI chatbot ยอดนิยม การค้นพบนี้แสดงให้เห็นถึงความเสี่ยงที่แฝงอยู่ในเทคโนโลยี AI และความสำคัญของการรักษาความปลอดภัยทางไซเบอร์ ข่าวนี้ให้ข้อมูลที่มีค่าเกี่ยวกับวิธีการป้องกันตนเองจากภัยคุกคามที่อาจเกิดขึ้น และเน้นย้ำถึงความจำเป็นในการใช้เทคโนโลยี AI อย่างรอบคอบและระมัดระวัง

ข้อมูลอ้างอิงจาก https://www.techspot.com/news/104881-chatgpt-vulnerability-allows-hackers-record-sessions-indefinitely.html

Read more

เอลอน มัสก์ เผย AI จะเหนือกว่าแพทย์และทนายความ หลัง ChatGPT เอาชนะการวินิจฉัยทางการแพทย์ — มนุษย์จะกลายเป็นระบบสำรองแบบ 'ชีวภาพ'

news

เอลอน มัสก์ เผย AI จะเหนือกว่าแพทย์และทนายความ หลัง ChatGPT เอาชนะการวินิจฉัยทางการแพทย์ — มนุษย์จะกลายเป็นระบบสำรองแบบ 'ชีวภาพ'

อีลอน มัสก์คาดการณ์ว่า AI จะมีความสามารถเหนือกว่าแพทย์และทนายความในอนาคต หลังผลการศึกษาพบว่า ChatGPT-4 มีความแม่นยำในการวินิจฉัยโรคสูงถึง 90% เทียบกับ 74% ของแพทย์ ส่งผลกระทบต่อวิชาชีพที่ใช้ความรู้เป็นหลัก

By
พนักงาน AI: อนาคตแรงงานองค์กรตามวิสัยทัศน์ของ Nvidia พร้อมเทคโนโลยีล้ำสมัยที่ช่วยขับเคลื่อนการทำงานและประสิทธิภาพในยุคดิจิทัล

news

CEO Nvidia คาดการณ์ "พนักงาน AI" จะเป็นส่วนหนึ่งของแรงงานองค์กรในอนาคตอันใกล้

Jensen Huang ซีอีโอ Nvidia เผยวิสัยทัศน์ "พนักงาน AI" จะกลายเป็นส่วนสำคัญของแรงงานองค์กรในเร็วๆ นี้ ทำงานหลากหลายตั้งแต่การตลาดถึงการจัดการห่วงโซ่อุปทาน เพิ่มประสิทธิภาพทุกตำแหน่งงาน ช่วยรักษาการจ้างงานและเพิ่มผลิตภาพ

By
The Beatles ชิงรางวัล Grammy ด้วยเพลงที่สร้างจาก AI นำเสนอผลงานสุดล้ำในวงการดนตรี ผสานเทคโนโลยีกับศิลปะคลาสสิก

news

The Beatles สร้างประวัติศาสตร์ เพลงที่ใช้ AI ช่วยได้รับการเสนอชื่อชิงรางวัลแกรมมี่

The Beatles ได้รับการเสนอชื่อเข้าชิงรางวัล Grammy ด้วยเพลง 'Now and Then' ที่ใช้ AI ช่วยสร้าง เผยให้เห็นบทบาทของ AI ในการอนุรักษ์มรดกทางดนตรีและสร้างนวัตกรรมใหม่ พร้อมตัวอย่างการใช้ AI ในวงการดนตรีจากศิลปินอื่นๆ

By
Google Maps เตรียมเพิ่มประสิทธิภาพด้วย AI Gemini เพื่อช่วยให้การนำทางแม่นยำและตอบโจทย์ผู้ใช้มากขึ้น

news

Google Maps ได้รับการอัปเกรดด้วย AI เพื่อแข่งขันกับ Apple

Google กำลังจะนำ AI Gemini มาเสริมทัพให้ Google Maps เพื่อให้ผู้ใช้สามารถได้รับคำตอบสำหรับคำถามที่ซับซ้อนเกี่ยวกับโลกรอบตัวได้ดียิ่งขึ้น สะท้อนความพยายามในการรักษาความเป็นผู้นำในตลาดแอปนำทาง และตอบโต้การพัฒนา AI ของ Apple

By