ก่อนให้ทีมป้อนข้อมูลอสังหาริมทรัพย์เข้า AI: ควรถามอะไรบ้าง

รายงานซ่อมแซมอาจมีชื่อผู้พักอาศัย หมายเลขโทรศัพท์ และภาพถ่ายภายในบ้าน หากแนบใบเสนอราคาของผู้รับเหมา ก็จะมีข้อมูลทางการค้าด้วย AI อาจช่วยให้ทีมเข้าใจงานได้ แต่ก่อนอัปโหลดบันทึกเหล่านั้น ควรทราบก่อนว่าข้อมูลจะถูกนำไปจัดการอย่างไร

คุณไม่จำเป็นต้องเป็นวิศวกรจึงจะถามคำถามที่มีประโยชน์ได้ การเข้าใจความแตกต่างของแนวคิดเพียงไม่กี่อย่างด้วยภาษาง่าย ๆ ก็ช่วยให้ตัวแทนบริหารอสังหาริมทรัพย์หรือผู้จัดการอาคารเข้าใจบริการที่กำลังเสนอได้

1. การตอบคำถามกับการทำให้งานคืบหน้าเป็นคนละความสามารถ

โมเดลภาษาขนาดใหญ่ หรือ LLM เป็นกลไกด้านภาษาที่อยู่เบื้องหลังเครื่องมือ AI จำนวนมาก โดยใช้ข้อมูลที่ได้รับเพื่อสรุปรายงาน อธิบายคู่มือ หรือร่างคำตอบได้ แม้คำตอบจะอ่านลื่นไหล ก็ยังต้องตรวจเทียบกับบันทึกจริง

เอเจนต์ AI ผสานความสามารถนั้นเข้ากับสิทธิ์เข้าถึงเครื่องมือและภารกิจที่ต้องทำให้สำเร็จ เช่น ค้นหาใบสั่งงานซ่อมเพดานรั่ว ตรวจสอบข้อมูลล่าสุดจากผู้รับเหมา และเตรียมการดำเนินการถัดไป หน่วยงานความมั่นคงปลอดภัยไซเบอร์ของสิงคโปร์อธิบาย agentic AI ว่าสามารถวางแผน ลงมือทำ และใช้เครื่องมือภายนอกได้ โดยไม่ต้องคอยป้อนคำสั่งอย่างต่อเนื่องมากเท่าเดิม

สำหรับผู้ซื้อ คำถามที่มีประโยชน์คือ ระบบทำขั้นตอนไหนได้บ้าง และขั้นตอนไหนต้องได้รับอนุมัติ? การร่างคำสั่งถึงผู้รับเหมา การส่งคำสั่งนั้น และการอนุมัติค่าใช้จ่ายเพิ่มเติม เป็นสิทธิ์สามอย่างที่แยกจากกัน ขอให้ผู้ให้บริการแสดงขอบเขตเหล่านี้ระหว่างการสาธิต

2. โทเคนวัดปริมาณการใช้ AI ส่วนงานที่เสร็จวัดประโยชน์ที่ได้รับ

คุณอาจได้ยินผู้ให้บริการพูดถึงโทเคน ซึ่งเป็นหน่วยข้อความขนาดเล็กที่โมเดลประมวลผล บางครั้งอาจเป็นหนึ่งคำหรือส่วนหนึ่งของคำ ทั้งข้อมูลขาเข้าและผลลัพธ์ที่สร้างขึ้นล้วนเกี่ยวข้องกับปริมาณการใช้ คำอธิบายเรื่องโทเคนของ OpenAI ยังแสดงให้เห็นด้วยว่า เหตุใดคำตอบสั้น ๆ ที่มองเห็นจึงอาจต้องใช้การประมวลผลมากกว่าที่ดูจากภายนอก

โควตาโทเคนไม่ได้บอกว่าจะทำงานบำรุงรักษาเสร็จกี่งาน การตรวจสัญญาฉบับยาวใช้การทำงานต่างจากการร่างข้อความตอบรับสั้น ๆ ควรเปรียบเทียบผลิตภัณฑ์ด้วยงานตัวอย่างเดียวกันที่สะท้อนการใช้งานจริง: พบข้อมูลบันทึกที่ถูกต้องหรือไม่ คำตอบแม่นยำหรือไม่ และทีมต้องตรวจสอบมากเพียงใด? ถามด้วยว่าเมื่อถึงขีดจำกัดการใช้งานจะเกิดอะไรขึ้น รวมถึงความเร็วที่ลดลงหรือค่าใช้จ่ายเพิ่มเติม ข้อกำหนดการให้บริการ หมวด 6 ของ Wisbid อธิบายแนวทางการใช้งานอย่างเป็นธรรมไว้

3. โมเดลเปิดและโมเดลปิดอธิบายวิธีเข้าถึงตัวโมเดล

บางโมเดลอนุญาตให้องค์กรอื่นดาวน์โหลดและนำไปรันได้ โดยทั่วไปเรียกว่าโมเดลแบบเปิดค่าน้ำหนัก ส่วนโมเดลอื่น ๆ ให้ใช้งานผ่านบริการที่ผู้ให้บริการโมเดลเป็นผู้ควบคุม คำอธิบายของ NTIA เรื่องการเข้าถึงโมเดล อธิบายความแตกต่างนี้และระดับการเปิดที่แตกต่างกัน

ชื่อเรียกทั้งสองแบบไม่ได้บอกว่าข้อมูลอาคารของคุณจะไปที่ใด โมเดลเปิดอาจทำงานบนคลาวด์ของผู้ให้บริการแทนที่จะเป็นคอมพิวเตอร์ของคุณเอง ส่วนการจัดการข้อมูลของโมเดลปิดขึ้นอยู่กับบริการและข้อตกลง ควรถามว่าใครเป็นผู้ดำเนินงาน ประมวลผลข้อมูลที่ไหน และใครเป็นผู้ดูแล ทีมของคุณไม่จำเป็นต้องเลือกเทคโนโลยีโดยยึดตามตัวย่อ

4. การประมวลผล การจัดเก็บ และการฝึกโมเดล ต้องตอบแยกกัน

การประมวลผลคือการใช้ข้อมูลเพื่อสร้างคำตอบ การจัดเก็บคือการเก็บข้อมูลไว้หลังจากนั้น การฝึกโมเดลคือการใช้ข้อมูลเพื่อเปลี่ยนแปลงตัวโมเดล การเปิดดูคู่มือบำรุงรักษาเพื่อตอบคำถามในวันนี้ เพียงอย่างเดียวไม่ได้หมายความว่ากำลังใช้คู่มือนั้นฝึกโมเดล

ลองติดตามเส้นทางของข้อซักถามทั่วไปหนึ่งเรื่อง ส่วนใดของข้อความผู้พักอาศัยออกจากแพลตฟอร์มบริหารอสังหาริมทรัพย์? AI หรือบริการใดได้รับข้อมูลนั้น? ไฟล์ การประมวลผล และข้อมูลสำรองอยู่ที่ไหน? เก็บพรอมป์ต์ คำตอบ และบันทึกการทำงานไว้นานเท่าใด? ใครดูได้บ้าง และหลังลบแล้วเกิดอะไรขึ้น?

Wisbid ไม่ใช้ข้อมูลลูกค้าเพื่อฝึกโมเดล AI การใช้ข้อมูลเพื่อตอบคำถามด้านการบำรุงรักษาแตกต่างจากการใช้ข้อมูลนั้นฝึกโมเดล

นโยบายความเป็นส่วนตัวของ Wisbid อธิบายเรื่องอื่น ๆ รวมถึงการใช้ข้อมูลที่เกี่ยวข้องกับ AI ผู้ให้บริการ และการเก็บรักษาข้อมูล ขอคำตอบที่ชัดเจนว่าประมวลผลบันทึกใด ใครเข้าถึงได้ และเก็บไว้นานเท่าใด การประมวลผลข้อซักถามและการเก็บบันทึกเรื่องนั้นเป็นคนละประเด็นกับการฝึกโมเดล

เพียงระบุว่าโฮสต์ในสิงคโปร์ ยังไม่ได้ตอบทุกคำถามเกี่ยวกับสถานที่ประมวลผล หน้าที่ด้านการคุ้มครองข้อมูลของ PDPC ครอบคลุมการปกป้อง การเก็บรักษา และการโอนข้อมูลไปต่างประเทศ ควรให้ผู้รับผิดชอบด้านการคุ้มครองข้อมูลขององค์กรร่วมพูดคุยก่อนอัปโหลดบันทึกของผู้พักอาศัย สำหรับการสาธิตเบื้องต้น ให้ใช้ข้อมูลสมมติหรือบันทึกที่ปกปิดข้อมูลอ่อนไหวอย่างเหมาะสมแล้ว

5. รู้จักสัญญาณเตือนก่อนให้สิทธิ์เข้าถึงมากขึ้น

คำสั่งที่ซ่อนอยู่ในเอกสาร

ไฟล์แนบจากผู้รับเหมาอาจมีข้อความที่ตั้งใจชักนำให้ AI ออกนอกภารกิจของคุณ สิ่งนี้เรียกว่า การแทรกคำสั่งโจมตี (prompt injection) คำขอที่ไม่คาดคิดให้เปิดเผยบันทึก เข้าลิงก์ที่ไม่เกี่ยวข้อง หรือส่งข้อมูลไปที่อื่น ล้วนเป็นสัญญาณเตือน การโจมตีบางอย่างซ่อนอยู่ จึงอาศัยเพียงความระมัดระวังของพนักงานไม่ได้ ควรถามผู้ให้บริการว่าจำกัดสิ่งที่เนื้อหาภายนอกสามารถชักนำให้ AI ทำได้อย่างไร

ข้อมูลหรือการกระทำที่เกินขอบเขตงาน

คำตอบที่มีรายละเอียดของผู้พักอาศัยคนอื่น หรือข้อมูลจากอาคารที่ผู้ใช้ปกติไม่มีสิทธิ์เข้าถึง เป็นเรื่องที่ต้องตรวจสอบ เช่นเดียวกับเอเจนต์ที่ส่งข้อความหรือเปลี่ยนแปลงบันทึกนอกเหนือจากงานที่ได้รับมอบหมาย OWASP เรียกการให้สิทธิ์หรืออิสระในการทำงานมากเกินไปว่า excessive agency หรืออำนาจดำเนินการเกินจำเป็น ขอให้แสดงขอบเขตการเข้าถึง ขั้นตอนอนุมัติ และบันทึกกิจกรรมที่ทีมของคุณสามารถตรวจทานได้

คำตอบที่น่าเชื่อถือแต่ไม่มีหลักฐานที่วางใจได้

วันที่รับประกันที่แต่งขึ้นเป็นความบกพร่องด้านความน่าเชื่อถือ แม้ไม่มีใครโจมตีระบบก็ตาม เปิดสัญญาที่อ้างถึง แล้วตรวจสอบทรัพย์สินและวันที่ต่าง ๆ ให้ผู้มีอำนาจรับผิดชอบการตัดสินใจด้านความปลอดภัย การตกลงผูกพันค่าใช้จ่าย และการตรวจรับงานที่เสร็จแล้วต่อไป

กลับมาที่เพดานรั่วนั้น ผลลัพธ์ที่มีประโยชน์ต้องระบุงานที่ถูกต้อง ชี้ไปยังหลักฐานที่เกี่ยวข้อง และทำให้ขั้นตอนถัดไปชัดเจน เริ่มจากตรงนี้ ด้วยงานที่ทีมเข้าใจและสิทธิ์ที่คุณอธิบายได้ ก่อนมอบความรับผิดชอบให้ AI มากขึ้น