Sebelum pasukan anda memasukkan data hartanah ke dalam AI: soalan yang perlu ditanya

Laporan pembaikan mungkin mengandungi nama penghuni, nombor telefon dan gambar bahagian dalam rumah. Jika sebut harga kontraktor turut disertakan, maklumat komersial juga ada di dalamnya. AI boleh membantu pasukan memahami kerja tersebut, tetapi sebelum memuat naik rekod itu, elok diketahui apa yang berlaku kepada maklumat berkenaan.

Anda tidak perlu menjadi jurutera untuk mengemukakan soalan yang berguna. Beberapa perbezaan yang diterangkan dalam bahasa mudah boleh membantu ejen pengurusan hartanah atau pengurus fasiliti memahami perkhidmatan yang ditawarkan.

1. Menjawab soalan dan memajukan kerja ialah keupayaan yang berbeza

Model bahasa besar, atau LLM, ialah enjin bahasa di sebalik banyak alat AI. Model ini boleh menggunakan maklumat yang dibekalkan untuk meringkaskan laporan, menerangkan manual atau mendraf jawapan. Jawapan yang lancar masih perlu disemak dengan rekod sebenar.

Ejen AI menggabungkan keupayaan itu dengan akses kepada alat dan tugasan untuk dilaksanakan. Ejen tersebut mungkin mencari arahan kerja bagi siling bocor, menyemak maklumat terkini daripada kontraktor dan menyediakan tindakan seterusnya. Agensi Keselamatan Siber Singapura menerangkan AI berasaskan ejen sebagai berupaya merancang, bertindak dan menggunakan alat luaran dengan keperluan yang lebih rendah untuk arahan berterusan.

Bagi pembeli, soalan yang berguna ialah: langkah manakah yang boleh diambilnya, dan langkah manakah yang memerlukan kelulusan? Mendraf arahan kepada kontraktor, menghantarnya dan meluluskan perbelanjaan tambahan ialah tiga kebenaran yang berasingan. Minta supaya sempadan tersebut ditunjukkan semasa demonstrasi.

2. Token mengukur penggunaan AI; kerja yang siap mengukur kegunaannya

Anda mungkin mendengar pembekal bercakap tentang token. Token ialah unit kecil teks yang diproses oleh model, kadangkala berupa satu perkataan atau sebahagiannya. Kedua-dua input dan output yang dijana perlu diambil kira. Penerangan OpenAI tentang token turut menunjukkan mengapa jawapan ringkas yang kelihatan pada skrin boleh melibatkan lebih banyak pemprosesan daripada yang disangka.

Kuota token tidak dapat memberitahu anda berapa banyak kerja penyelenggaraan yang akan disiapkan. Menyemak kontrak yang panjang memerlukan kerja yang berbeza daripada mendraf pengakuan penerimaan yang ringkas. Bandingkan produk menggunakan tugasan contoh yang sama dan mewakili kerja sebenar: adakah rekod yang betul ditemui, adakah jawapannya tepat, dan berapa banyak semakan yang perlu dilakukan oleh pasukan anda? Tanya apa yang berlaku apabila had penggunaan dicapai, termasuk kelajuan yang berkurangan atau caj tambahan. Seksyen 6 dalam Terma Perkhidmatan Wisbid menerangkan aturan penggunaan saksamanya.

3. Model terbuka dan tertutup menerangkan akses kepada model

Sesetengah model boleh dimuat turun dan dijalankan oleh organisasi lain; model ini lazimnya dipanggil model dengan pemberat terbuka. Model lain tersedia melalui perkhidmatan yang dikawal oleh penyedia model. Penerangan NTIA tentang akses kepada model menghuraikan perbezaan ini serta tahap keterbukaan yang berbeza.

Kedua-dua label itu tidak memberitahu anda ke mana data hartanah anda dihantar. Model terbuka mungkin berjalan pada awan pembekal dan bukannya komputer anda sendiri. Pengendalian data oleh model tertutup bergantung pada perkhidmatan dan perjanjian. Tanya siapa yang mengendalikannya, di mana maklumat diproses dan siapa yang menyelenggarakannya. Pasukan anda tidak perlu memilih teknologi berdasarkan akronim.

4. Pemprosesan, penyimpanan dan latihan memerlukan jawapan berasingan

Pemprosesan bermaksud menggunakan maklumat untuk menghasilkan jawapan. Penyimpanan bermaksud mengekalkan maklumat selepas itu. Latihan bermaksud menggunakan data untuk mengubah model. Merujuk manual penyelenggaraan bagi menjawab soalan hari ini tidak, dengan sendirinya, bermakna model sedang dilatih menggunakan manual tersebut.

Jejaki satu pertanyaan biasa. Bahagian manakah daripada mesej penghuni yang keluar daripada platform hartanah? Perkhidmatan AI atau perkhidmatan lain yang manakah menerimanya? Di manakah fail disimpan, pemprosesan dilakukan dan salinan sandaran ditempatkan? Berapa lama prom, jawapan dan log disimpan? Siapa yang boleh melihatnya, dan apa yang berlaku selepas pemadaman?

Wisbid tidak menggunakan data pelanggan untuk melatih model AI. Menggunakan maklumat untuk menjawab soalan penyelenggaraan berbeza daripada melatih model dengan maklumat tersebut.

Dasar Privasi Wisbid menerangkan perkara lain, termasuk penggunaan data berkaitan AI, penyedia perkhidmatan dan penyimpanan data. Minta jawapan yang jelas tentang rekod yang diproses, siapa yang boleh mengaksesnya dan berapa lama rekod itu disimpan. Memproses pertanyaan dan menyimpan rekodnya ialah persoalan yang berasingan daripada latihan model.

Pernyataan bahawa perkhidmatan dihoskan di Singapura sahaja tidak menjawab semua soalan tentang lokasi pemprosesan. Kewajipan perlindungan data PDPC meliputi perlindungan, penyimpanan dan pemindahan ke luar negara. Libatkan ketua perlindungan data organisasi anda dalam perbincangan sebelum memuat naik rekod penghuni. Untuk demonstrasi awal, gunakan rekod rekaan atau rekod yang maklumat sensitifnya telah dipadamkan atau ditutup dengan sewajarnya.

5. Kenali tanda amaran sebelum memberikan lebih banyak akses

Arahan yang tersembunyi di dalam dokumen

Lampiran kontraktor mungkin mengandungi teks yang bertujuan mengalihkan AI daripada tugasan anda. Ini dipanggil suntikan prom (prompt injection). Permintaan yang tidak dijangka untuk mendedahkan rekod, melawat pautan yang tidak berkaitan atau menghantar maklumat ke tempat lain ialah tanda amaran. Sesetengah serangan tersembunyi, jadi kewaspadaan kakitangan sahaja tidak mencukupi. Tanya pembekal bagaimana mereka mengehadkan tindakan AI yang boleh dicetuskan oleh kandungan luaran.

Maklumat atau tindakan di luar skop kerja

Jawapan yang mengandungi butiran penghuni lain, atau maklumat daripada tapak yang biasanya tidak boleh diakses oleh pengguna, perlu disiasat. Begitu juga jika ejen menghantar mesej atau mengubah rekod di luar tugasan yang diberikan. OWASP menamakan kebenaran atau autonomi yang berlebihan sebagai kuasa bertindak yang berlebihan (excessive agency). Minta ditunjukkan had akses, langkah kelulusan dan rekod aktiviti yang boleh disemak oleh pasukan anda.

Jawapan yang meyakinkan tanpa bukti yang boleh dipercayai

Tarikh waranti yang direka ialah kegagalan kebolehpercayaan, walaupun tiada sesiapa menyerang sistem tersebut. Buka kontrak yang dirujuk dan semak aset serta tarikh-tarikhnya. Kekalkan keputusan keselamatan, komitmen perbelanjaan dan penerimaan kerja yang siap di bawah tanggungjawab individu yang diberi kuasa.

Kembali kepada siling bocor tadi. Hasil yang berguna mengenal pasti kerja yang betul, menunjukkan bukti yang berkaitan dan memberikan langkah seterusnya yang jelas. Mulakan di situ, dengan tugasan yang difahami pasukan anda dan kebenaran yang boleh anda jelaskan, sebelum memberi AI lebih banyak tanggungjawab.