บริษัทเทคโนโลยีเผชิญคดีความปลอดภัยเด็กขณะ AI เข้าสู่ห้องเรียน

Snap ยอมความคดีลับสัปดาห์นี้ กล่าวหาว่าเทคโนโลยีของบริษัทก่อให้เกิดความทุกข์ทางจิตใจรุนแรงแก่วัยรุ่นสองราย ไม่กี่วันก่อนการพิจารณาคดีที่ลอสแองเจลิส ตามรายงานของ CNBC Meta, TikTok และ YouTube ได้ยอมความกับโจทก์ในคดีเดียวกันมาก่อน Joseph McNally ผู้อำนวยการฝ่ายการฟ้องร้องเกิดใหม่ที่ McNicholas & McNicholas และอดีตอัยการสหรัฐฯ กล่าวว่า การยอมความสะท้อนว่าบริษัทเทคโนโลยีพยายามพลิกโฉมหลังจากความท้าทายทางกฎหมายและความเสียหายต่อชื่อเสียงผลิตภัณฑ์

คดีนี้เป็นหนึ่งในคดีความหลายคดีที่ผูกกับการพิจารณาคดีบาดเจ็บส่วนบุคคลบนโซเชียลมีเดีย ซึ่ง Meta และ YouTube พ่ายแพ้เมื่อต้นปีนี้ โดยมีการพิจารณาคดีเพิ่มเติมในเดือนมีนาคม คดีระดับรัฐบาลกลางที่เกี่ยวข้องกับ Meta, TikTok, Snap และ YouTube ร่วมกับเขตการศึกษาทั่วประเทศและอัยการสูงสุดของรัฐก็ยังดำเนินอยู่ ในเดือนสิงหาคม Meta ตกลงจ่ายเกือบ 17 พันล้านดอลลาร์เพื่อยอมความกับกลุ่มอัยการสูงสุดของรัฐในคดีสุขภาพจิตเด็ก

Google เผชิญคดีใหม่แยกต่างหาก บิดามารดาของเด็กหญิงอายุ 13 ปีในนอร์ทแคโรไลนา ที่เอกสารคดีระบุว่า Emma ฟ้อง Google ในศาลรัฐแคลิฟอร์เนียเมื่อวันที่ 2 พฤศจิกายน ตาม Le Monde คำฟ้องอ้างว่า เธอใช้การค้นหาที่ขับเคลื่อนด้วย AI ของ Google บน Chromebook ที่โรงเรียนออกให้ เพื่อพูดคุยเรื่องวิธีการฆ่าตัวตายและวางแผนงานศพเป็นเวลาหลายเดือน ทั้งที่ไม่มีประวัติป่วยทางจิตมาก่อน ซอฟต์แวร์ตรวจสอบของโรงเรียนแจ้งเอกสารชื่อ Funeral เมื่อวันที่ 17 มีนาคม และแจ้งบิดามารดา มารดาเห็น Emma เขียนจดหมายบอกลาแบบเรียลไทม์ และบิดาเข้าแทรกแซง Emma ไปบำบัดทุกสัปดาห์ในตอนนี้

คดีนี้เป็นคดีแรกที่รู้จักซึ่งกล่าวหา Google ว่ากระทำการละเลยเกี่ยวกับการบูรณาการ AI บน Chromebook Jose Castaneda โฆษก Google บอก AFP ว่าบริษัทกำลังทบทวนข้อกล่าวหาและถือว่าเรื่องนี้จริงจัง โดยเสริมว่า AI mode มีมาตรการป้องกันการทำร้ายตัวเอง Andrew Liddell ทนายความของครอบครัวโต้แย้งว่ามาตรการดังกล่าวไม่เพียงพอ และกล่าวว่าโรงเรียนควรปิดการค้นหาจนกว่า Google จะถอด AI mode ออกจาก search

ข้อพิพาทนี้เกิดขึ้นขณะที่ Google ผลักดัน AI เข้าสู่การศึกษาลึกขึ้น ในเดือนสิงหาคม Google เปิดใช้ Gemini สำหรับนักเรียน K-12 จำนวนมากที่ใช้ Google Classroom และสัปดาห์นี้ Google, TikTok และ Meta แต่ละบริษัทฟ้องแคลิฟอร์เนียเพื่อบล็อกกฎหมายที่ผู้ว่าการ Gavin Newsom ลงนามในเดือนกันยายน ซึ่งห้ามบริษัทโซเชียลมีเดียให้บริการฟีเจอร์เสพติดแก่ผู้ใช้ที่อายุต่ำกว่า 16 ปี โดยมีผลบังคับใช้วันที่ 1 มกราคม 2027

Kate Blocker นักจิตวิทยาพัฒนาการ ผู้อำนวยการฝ่ายวิจัยและโปรแกรมขององค์กรไม่แสวงหากำไร Children and Screens กล่าวว่า ผลิตภัณฑ์ต้องการการเปลี่ยนแปลงเชิงระบบในการออกแบบเทคโนโลยี โดยเฉพาะเมื่อเด็กใช้งาน และความปลอดภัยควรได้รับการพิจารณาตั้งแต่เริ่มต้น ไม่ใช่หลังจากเกิดอันตราย Michele Neitz ศาสตราจารย์แห่ง University of San Francisco School of Law กล่าวว่า การฟ้องร้องแสดงว่าบริษัทเทคโนโลยีคาดว่าจะมีความเสี่ยงการถูกฟ้องมากกว่าทศวรรษก่อน OpenAI เผชิญคดีทำนองเดียวกันจากอัยการสูงสุดของรัฐ และ Anthropic วางแผนเข้าจดทะเบียนในเดือนนี้

ในการซื้อขายล่าช้า หุ้น Alphabet (GOOGL) ขึ้น 0.78% ที่ 284.78 ดอลลาร์ ส่วนหุ้น Snap (SNAP) ลด 2.55% ที่ 4.96 ดอลลาร์