ในช่วงปีแรกของ GenAI เราได้เรียนรู้ห้าสิ่งและคาดการณ์เกี่ยวกับแนวโน้มความปลอดภัยทางไซเบอร์ได้หนึ่งข้อ
เราเพิ่งเปิดตัว GenAI คนงานขี้ลืมของบริษัทใหญ่ตัดสินใจใช้ประโยชน์จากสิ่งนี้ เขาเปิดเผยแผนต่อสาธารณะในแบบสอบถาม AI เราเดาได้แค่ว่าเป้าหมายของเขาคือการประเมินการออกแบบหรือเขียนเอกสารประกอบบางส่วน เขาต้องพบสิ่งที่เขากำลังมองหาโดยไม่รู้สึกว่าการออกแบบนี้ถูกจัดเก็บไว้ในแอป AI นี้เพื่อให้ทุกคนใช้งานได้
เรากำลังอยู่ในยุค GenAI
เป็นเวลาประมาณหนึ่งปีแล้วที่ ChatGPT ทำให้ทุกคนสามารถเข้าถึง AI เชิงสร้างสรรค์ได้ หลังจากนั้นทุกคนก็หมกมุ่นอยู่กับของเล่นใหม่นี้ เราอาจรู้สึกทึ่งในพลังอันน่าทึ่งของ GenAI แต่บุคคลที่ไร้ศีลธรรมกำลังทำงานตลอดเวลาเพื่อค้นหาช่องโหว่พื้นฐาน เมื่อใกล้ถึงสิ้นปี ฉันคิดว่าเป็นความคิดที่ดีที่จะรวบรวมรายการข้อสังเกตสำคัญ 5 ประการที่จะส่งผลต่อความปลอดภัยทางไซเบอร์ในปีหน้า
รางวัลสำหรับอาชญากรไซเบอร์ — สิ่งที่เราหมายถึงคือตอนนี้แฮกเกอร์สามารถเข้าถึงเครื่องมือใหม่ๆ ที่สามารถเพิ่มขอบเขตและความเร็วของการโจมตีได้ การเป็นนักเขียนโค้ดหรือนักเขียนอีเมลที่มุ่งร้ายไม่ใช่เรื่องง่าย ความจริงที่ว่าองค์กรอาชญากรรมบางแห่งควบคุมสถานที่ทั้งหมดและทุ่มทรัพยากรจำนวนมากเพื่อการตกปลาตลอดทั้งวัน ทุกวันก็สมเหตุสมผลแล้ว ต้องใช้ความพยายามอย่างหนักและใช้เวลานานหลายชั่วโมงเพื่อสิ่งนี้ ทันใดนั้นพวกเขาก็พบกับ GenAI ปัญหาการขยายธุรกิจที่ผิดกฎหมายได้รับการแก้ไขแล้ว GenAI ไม่เพียงแต่ทำให้การโจมตีเหล่านี้มีความซับซ้อนมากขึ้นเท่านั้น แต่ยังช่วยในการเลือกเป้าหมายที่อ่อนแออีกด้วย SOC ของคุณจะต้องตื่นตัวต่อไปด้วยเหตุนี้ มีเพียงการป้องกันอัตโนมัติเท่านั้นที่สามารถทำให้ระดับของระบบอัตโนมัติในการโจมตีเท่ากันได้ ในสถานการณ์ที่น่าสนใจนี้ เครื่องจักรจะต่อสู้กันเอง ในขณะที่มนุษย์สังเกตจากระยะไกล อย่างไรก็ตาม จนกว่าจะถึงตอนนั้น ก็ควรที่จะเสริมสร้างขีดความสามารถ SOC ของเราเพื่อรับมือกับการโจมตีที่เพิ่มขึ้นอย่างไม่คาดคิด
นักวิจัยใช้เวลาและความพยายามอย่างมากในการพัฒนา GenAI ซึ่งมีทักษะเทียบเคียงกับมนุษย์ได้อย่างน่ากลัว อย่างไรก็ตาม การเลียนแบบผู้คนไม่ใช่เรื่องฉลาดเสมอไป แฮกเกอร์ตระหนักได้ทันทีว่าจุดอ่อนของมนุษย์—หรือที่เจาะจงกว่านั้นคือความใจง่ายของมนุษย์—สามารถนำไปใช้กับแอปพลิเคชันได้ ซึ่งหมายความว่าพวกเขาสามารถเรียกร้องค่าหัวได้ การปรับเปลี่ยนโมเดลและถามคำถามต่างๆ จะทำให้คุณเห็นว่าความฉลาดที่เสแสร้งนี้หายไปอย่างรวดเร็วได้อย่างไร ในการทดลองที่รู้จักกันดี นักวิจัยขอให้ GenAI เปิดเผยข้อความทั้งหมดของเอกสารที่อ้างถึง เมื่อ GenAI ปฏิเสธ พวกเขาก็ถามด้วยวิธีอื่น และมันก็เริ่มร้องเพลง นักวิชาการจำนวนมากกล่าวว่าการโจมตีทันทีไม่สามารถป้องกันได้อย่างเพียงพอ การเน้นใหม่ทั้งหมดเกี่ยวกับผลลัพธ์ด้านการศึกษาและการพัฒนาของพนักงานจากสิ่งนี้
จัดให้มีการฝึกอบรมใหม่ๆ แก่เจ้าหน้าที่รักษาความปลอดภัย ลักษณะของความสามารถที่จำเป็นมีการพัฒนาอย่างรวดเร็วใน 24 ชั่วโมงที่ผ่านมา แอปพลิเคชันที่พัฒนาด้วย GenAI สามารถจัดการงานระดับล่างบางส่วนได้อย่างมีประสิทธิภาพ สิ่งนี้จำเป็นต้องทำความคุ้นเคยกับความสามารถของแอป GenAI ความก้าวหน้าที่เกี่ยวข้องในโดเมนนี้ และช่องทางการใช้งานที่เป็นไปได้สำหรับ GenAI ปัจจุบันทักษะ NLP ได้ถูกนำไปใช้ในกรณีการใช้งานบางกรณีที่ทำให้การกำหนดค่าความปลอดภัยง่ายขึ้น งานที่เกี่ยวข้องกับการกำหนดค่านโยบายพบว่าความต้องการทักษะลดลงด้วยเหตุนี้ ในทางกลับกัน นักวิเคราะห์ความปลอดภัยและศูนย์ปฏิบัติการอาจต้องให้ความสำคัญกับการทำความเข้าใจภัยคุกคามและการสร้างแบบจำลองข้อมูลเป็นความสามารถหลัก
การจัดสรรเงินทุนเพื่อลดความเสี่ยงของ GenAI – กองความปลอดภัยกำลังอยู่ระหว่างการอัพเกรดที่สำคัญ และยังคงเป็นวันแรก เรายังขาดข้อเท็จจริงที่เพียงพอ นอกเหนือจากเรื่องราวบางส่วน ที่จะรับประกันค่าใช้จ่ายเพิ่มเติมสำหรับชุดผลิตภัณฑ์ใหม่ทั้งหมดเพื่อจัดการกับภัยคุกคาม GenAI ลูกค้าของเรามีแนวโน้มที่เห็นได้ชัดเจนในการประเมินความเสี่ยงเพื่อพยายามระบุอันตรายที่อาจเกิดขึ้นจาก GenAI เนื่องจากมาตรการรักษาความปลอดภัยแบบเดิมๆ ถูกนำมาใช้ในยุค GenAI พวกเขาจึงทบทวนการออกแบบด้วยสายตาที่มีวิจารณญาณ และพยายามแก้ไขปัญหาที่ค้างอยู่ เพื่อใช้ประโยชน์จากศักยภาพที่นำเสนอโดย AI และ GenAI ธุรกิจส่วนใหญ่ได้เริ่มปรับปรุงความสามารถในการป้องกันทางไซเบอร์แล้ว อย่างไรก็ตาม ความชัดเจนใดๆ เกี่ยวกับการลดความเสี่ยงของ GenAI อาจต้องใช้เวลาพอสมควร
ข้อมูลเข้า ข้อมูลออก: ในตอนแรก มีความกังวลว่าข้อมูลการฝึกอบรมและการแจ้งเตือนจะทำหน้าที่เป็นจุดเริ่มต้นเพิ่มเติมสำหรับการรั่วไหลของข้อมูล เมื่อควันจางลง ก็ชัดเจนว่าแอป AI ส่วนใหญ่เสนอสุขอนามัยขั้นพื้นฐานเป็นอย่างน้อย โดยการแยกข้อมูลภายในจากแหล่งข้อมูลภายนอก แต่ปัญหายังคงอยู่ที่ผู้ใช้แอปซึ่งอาจปล่อยให้แอป AI ที่ไม่ได้รับอนุญาตเข้าถึงข้อมูลที่ละเอียดอ่อนโดยไม่ตั้งใจโดยการใช้คำแนะนำของแอปอย่างไม่ระมัดระวัง
ผู้เชี่ยวชาญในสาขานี้คาดการณ์ว่าในขณะที่ระบบนิเวศสำหรับปัญญาประดิษฐ์ในความปลอดภัยทางไซเบอร์พัฒนาต่อไป การเพิ่มประสิทธิภาพเวลา ความพยายาม และต้นทุนในการจัดการความเสี่ยงจะเป็นหนึ่งในกรณีการใช้งานแรกๆ เพื่อดึงดูดนักลงทุน การเพิ่มประสิทธิภาพต้นทุนอย่างที่ไม่เคยมีมาก่อนคือทิศทางที่ SOC กำลังดำเนินการ สิ่งนี้จะเกิดขึ้นได้โดยการยกเครื่องทักษะ กระบวนการ เทคโนโลยี และบุคลากรที่จำเป็นอย่างครอบคลุม ความสามารถในการตรวจจับภัยคุกคามที่ขับเคลื่อนด้วยการเรียนรู้เชิงลึกขั้นสูงยิ่งขึ้นในแบบเรียลไทม์ถือเป็นหนึ่งในการพัฒนาที่คาดว่าจะเกิดขึ้นในปีหน้า จะช่วยประหยัดเวลาและเงินอันเป็นผลมาจากการตรวจจับและบรรเทาภัยคุกคามที่รวดเร็วยิ่งขึ้น จะมีการเปลี่ยนแปลงที่สำคัญบางประการในแง่มุมขององค์กรที่มีผู้คนเป็นศูนย์กลาง ในแง่ของชุดทักษะของผู้คนและประเภทของงานที่กำลังรับสมัคร นี่จะเป็นเรื่องใหญ่ แม้ว่าการดำเนินการด้านความปลอดภัยระดับต่ำจะมีแนวโน้มที่จะกลายเป็นเรื่องทั่วไปมากขึ้น แต่นักวิเคราะห์ด้านความปลอดภัยอาจคาดหวังว่าจะได้เห็นความเชี่ยวชาญพิเศษในสาขาของตนเพิ่มมากขึ้น การปรับโครงสร้างกลุ่มเทคโนโลยีใหม่ทั้งหมดถือเป็นองค์ประกอบสุดท้าย การใช้ ML และ AI การดำเนินการด้านความปลอดภัยจะจัดลำดับความสำคัญในการลดภัยคุกคามได้เร็วขึ้นและมีประสิทธิภาพมากขึ้น
ถึงเวลาเริ่มต้นใหม่อีกครั้งและตรวจสอบสถาปัตยกรรมความปลอดภัยของคุณ
