ซิสโก้  ผู้นำระดับโลกด้านความปลอดภัยและระบบเครือข่าย เปิดตัว ‘Cisco AI Defense’ โซลูชันบุกเบิกที่ช่วยขับเคลื่อนและปกป้ององค์กรในการใช้งาน AI อย่างปลอดภัย ท่ามกลางความก้าวหน้าของเทคโนโลยี AI ที่พัฒนาอย่างรวดเร็ว ทำให้เกิดความกังวลด้านความปลอดภัยและภัยคุกคามรูปแบบใหม่ที่ระบบรักษาความปลอดภัยที่มีอยู่ในปัจจุบันยังไม่สามารถรับมือได้  Cisco AI Defense จึงถูกออกแบบมาโดยเฉพาะเพื่อให้องค์กรสามารถพัฒนา นำไปใช้ และรักษาความปลอดภัยของแอปพลิเคชัน AI ได้อย่างมั่นใจ

นายจีทู พาเทล, รองประธานบริหารและประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ของซิสโก้ กล่าวว่า ผู้นำด้านธุรกิจและเทคโนโลยีไม่สามารถละทิ้งความปลอดภัยเพื่อแลกกับความเร็วในการนำ AI มาใช้ และในสภาพแวดล้อมที่มีการแข่งขันสูง ความเร็วคือตัวตัดสินผู้ชนะ  Cisco AI Defense ถูกผสานเข้ากับโครงสร้างพื้นฐานของเครือข่าย พร้อมความสามารถพิเศษในการตรวจจับและป้องกันภัยคุกคามตั้งแต่การพัฒนาไปจนถึงการเข้าถึงแอปพลิเคชัน AI

ทั้งนี้ผลกระทบที่อาจเกิดขึ้นจากความผิดพลาดของ AI นั้นมีความเสี่ยงสูงมาก จากผลสำรวจดัชนีความพร้อมด้าน AI ประจำปี 2567 ของซิสโก้ พบว่ามีเพียง 38% ของผู้ตอบแบบสำรวจในประเทศไทยที่มั่นใจว่ามีความพร้อมอย่างเต็มที่ในการตรวจจับ และป้องกันการแทรกแซง AI ที่ไม่ได้รับอนุญาต ความท้าทายด้านความปลอดภัยยังมีความซับซ้อนและเป็นรูปแบบใหม่ เนื่องจากแอปพลิเคชัน AI นั้นทำงานบนหลายโมเดลและหลายคลาวด์ ช่องโหว่สามารถเกิดขึ้นได้ทั้งในระดับโมเดลหรือแอปพลิเคชัน ในขณะที่ความรับผิดชอบกระจายอยู่กับผู้เกี่ยวข้องหลายฝ่าย ทั้งนักพัฒนา ผู้ใช้งาน และผู้ให้บริการ เมื่อองค์กรเริ่มก้าวไปไกลกว่าการใช้ข้อมูลสาธารณะ และเริ่มฝึกฝนโมเดลด้วยข้อมูลที่เป็นกรรมสิทธิ์ของตนเอง ความเสี่ยงก็ยิ่งเพิ่มมากขึ้น

อย่างไรก็ตามเพื่อปลดล็อกนวัตกรรมและการนำ AI มาใช้งาน องค์กรต่างๆ จำเป็นต้องมีระบบความปลอดภัยพื้นฐานร่วมที่ปกป้องทั้งผู้ใช้งานและแอปพลิเคชันทุกประเภท  AI Defense ช่วยสนับสนุนการปรับเปลี่ยนองค์กรสู่ AI โดยจัดการกับความเสี่ยงเร่งด่วนสองประการ ได้แก่ 1.สำหรับการพัฒนาและปรับใช้แอปพลิเคชัน AI อย่างปลอดภัย: เมื่อ AI กลายเป็นส่วนหนึ่งของชีวิตประจำวัน องค์กรต่างๆ จะใช้และพัฒนาแอปพลิเคชัน AI เป็นจำนวนหลายร้อยถึงหลายพันแอปพลิเคชัน นักพัฒนาจำเป็นต้องมีชุดมาตรการรักษาความปลอดภัย AI ที่ใช้ได้กับทุกแอปพลิเคชัน  AI Defense ช่วยให้นักพัฒนาทำงานได้รวดเร็วและสร้างมูลค่าเพิ่มมากขึ้น ด้วยการปกป้องระบบ AI จากการโจมตีและควบคุมดูแลการทำงานของโมเดลให้ปลอดภัยในทุกแพลตฟอร์ม (safeguarding model behavior) โดยความสามารถของ AI Defense ประกอบด้วย:

การค้นพบ AI: ทีมรักษาความปลอดภัยจำเป็นต้องเข้าใจว่าใครเป็นผู้พัฒนาแอปพลิเคชัน และใช้แหล่งข้อมูลใดในการฝึกฝน   AI Defense สามารถตรวจจับแอปพลิเคชัน AI ทั้งที่ได้รับอนุญาตและไม่ได้รับอนุญาตในระบบคลาวด์ทั้งแบบสาธารณะและส่วนตัว การตรวจสอบโมเดล: การปรับแต่งโมเดลอาจนำไปสู่ผลลัพธ์ที่ไม่พึงประสงค์ ระบบทดสอบอัตโนมัติจะตรวจสอบโมเดล AI เพื่อหาปัญหาด้านความปลอดภัยที่อาจเกิดขึ้นนับร้อยประการ ทีมทดสอบการเจาะระบบที่ขับเคลื่อนด้วย AI จะระบุช่องโหว่ที่อาจเกิดขึ้น และแนะนำมาตรการป้องกันใน AI Defense ให้กับทีมรักษาความปลอดภัย ความปลอดภัยในขณะทำงาน: การตรวจสอบอย่างต่อเนื่องช่วยป้องกันภัยคุกคามด้านความปลอดภัยที่อาจเกิดขึ้น เช่น การแทรกคำสั่ง (prompt injection) การปฏิเสธการให้บริการ และการรั่วไหลของข้อมูลที่ละเอียดอ่อน

2.การรักษาความปลอดภัยในการเข้าถึงแอปพลิเคชัน AI: ในขณะที่ผู้ใช้งานเร่งนำแอปพลิเคชัน AI มาใช้ เช่น เครื่องมือสรุปข้อมูลเพื่อเพิ่มประสิทธิภาพการทำงาน ทีมความปลอดภัยจำเป็นต้องป้องกันการรั่วไหลของข้อมูล และการแทรกแซงหรือปลอมปนข้อมูลที่เป็นกรรมสิทธิ์ขององค์กร  AI Defense ช่วยเสริมความสามารถให้ทีมรักษาความปลอดภัยด้วย:การมองเห็นภาพรวม (Visibility): แสดงมุมมองแบบครบถ้วนของแอปพลิเคชันที่ใช้ AI ที่พนักงานใช้งาน ทั้งที่ได้รับอนุญาตและไม่ได้รับอนุญาต การควบคุมการเข้าถึง (Access Control): กำหนดนโยบายจำกัดการเข้าถึงเครื่องมือ AI ที่ไม่ได้รับอนุญาตของพนักงาน การป้องกันข้อมูลและภัยคุกคาม (Data and Threat Protection): ปกป้องอย่างต่อเนื่องจากภัยคุกคาม และการสูญหายของข้อมูลที่เป็นความลับ พร้อมปฏิบัติตามกฎระเบียบ

ทั้งนี้ ต่างจากระบบรักษาความปลอดภัยที่ถูกสร้างเฉพาะในแต่ละโมเดล AI ซิสโก้นำเสนอการควบคุมที่สอดคล้องกันสำหรับโลกที่มีหลากหลายโมเดล  AI Defense มีความสามารถในการปรับปรุงตัวเองโดยอัตโนมัติ ใช้โมเดลแมชชีนเลิร์นนิงเฉพาะของซิสโก้ในการตรวจจับปัญหาด้านความปลอดภัยของ AI ที่พัฒนาอยู่ตลอดเวลา โดยอ้างอิงจากข้อมูลภัยคุกคามจาก Cisco Talos ซึ่งลูกค้าของ Splunk ที่ใช้ AI Defense จะได้รับการแจ้งเตือนที่มีข้อมูลเพิ่มเติมจากอีโคซิสเต็มทั้งหมด

ขณะเดียวกัน AI Defense เป็นการผสานรวมเข้ากับระบบข้อมูลที่มีอยู่ได้อย่างราบรื่น เพื่อการมองเห็นและควบคุมที่เหนือชั้น และถูกสร้างขึ้นเป็นส่วนหนึ่งของ Security Cloud ซึ่งเป็นแพลตฟอร์มความปลอดภัยแบบข้ามโดเมนที่ขับเคลื่อนด้วย AI ของซิสโก้ ระบบนี้ใช้ประโยชน์จากจุดบังคับใช้ที่ครอบคลุมของซิสโก้ เพื่อจัดการความปลอดภัย AI ระดับเครือข่ายในรูปแบบที่มีเพียงซิสโก้เท่านั้นที่ทำได้อย่างมีประสิทธิภาพสูงสุด ‘ความแม่นยำ และความน่าเชื่อถือ’ เป็นสิ่งสำคัญในการปกป้องแอปพลิเคชัน AI ขององค์กร และซิสโก้ได้มีส่วนร่วมอย่างแข็งขันในการพัฒนามาตรฐานความปลอดภัย AI ของอุตสาหกรรม รวมถึงมาตรฐานจาก MITRE, OWASP และ NIST

- 030