Bago ilagay ng inyong team ang datos ng property sa AI: mga dapat itanong

Maaaring may pangalan at numero ng telepono ng residente, pati litrato ng loob ng bahay, ang isang ulat ng pagkukumpuni. Kapag isinama ang quotation ng kontratista, may impormasyon din itong pangnegosyo. Makakatulong ang AI para maunawaan ng team ang trabaho, pero bago i-upload ang mga rekord na iyon, mahalagang malaman kung ano ang nangyayari sa impormasyon.

Hindi kailangang maging inhinyero para makapagtanong nang makabuluhan. Ang ilang pagkakaibang ipinaliwanag sa simpleng wika ay makakatulong sa isang managing agent o facilities manager na maunawaan ang serbisyong iniaalok.

1. Magkaibang kakayahan ang pagsagot sa tanong at ang pagsusulong ng trabaho

Ang large language model, o LLM, ang makinang pangwika sa likod ng maraming AI tool. Maaari nitong gamitin ang impormasyong ibinigay dito para ibuod ang isang ulat, ipaliwanag ang isang manwal o gumawa ng draft na sagot. Kahit mahusay ang pagkakasulat ng sagot, kailangan pa rin itong ihambing sa aktuwal na rekord.

Pinagsasama ng isang AI agent ang kakayahang iyon, ang access sa mga tool at ang isang gawaing dapat isakatuparan. Maaari nitong hanapin ang work order para sa tumatagas na kisame, tingnan ang update ng kontratista at ihanda ang susunod na hakbang. Inilalarawan ng Cyber Security Agency of Singapore ang agentic AI bilang kayang magplano, kumilos at gumamit ng mga panlabas na tool nang hindi gaanong nangangailangan ng tuloy-tuloy na mga prompt.

Para sa isang mamimili, ito ang kapaki-pakinabang na tanong: aling mga hakbang ang maaari nitong gawin, at alin ang nangangailangan ng pag-apruba? Tatlong magkahiwalay na pahintulot ang paggawa ng draft ng tagubilin sa kontratista, pagpapadala nito at pag-apruba ng dagdag na gastos. Hilinging ipakita sa demonstrasyon ang mga hangganang iyon.

2. Sinusukat ng tokens ang paggamit ng AI; sinusukat ng natapos na trabaho ang pakinabang nito

Maaaring marinig mong pinag-uusapan ng mga supplier ang tokens. Maliliit itong yunit ng tekstong pinoproseso ng isang model, kung minsan ay isang salita o bahagi nito. Parehong mahalaga ang input at ang nabuong output. Ipinapakita rin ng paliwanag ng OpenAI tungkol sa tokens kung bakit ang isang maikling sagot na nakikita mo ay maaaring mangailangan ng mas maraming pagproseso kaysa sa inaakala.

Hindi masasabi ng isang token allowance kung ilang maintenance job ang matatapos. Iba ang trabahong kailangan sa pagsusuri ng mahabang kontrata kaysa sa paggawa ng maikling draft na pagkilala sa natanggap na mensahe. Ihambing ang mga produkto gamit ang iisang gawaing kumakatawan sa karaniwang trabaho: nahanap ba ang tamang rekord, tumpak ba ang sagot, at gaano karaming pagsusuri ang kinailangan ng inyong team? Itanong kung ano ang mangyayari kapag naabot ang limitasyon sa paggamit, kasama ang pagbagal o dagdag na singil. Inilalarawan sa seksyon 6 ng Mga Tuntunin ng Serbisyo ng Wisbid ang mga patakaran nito sa makatarungang paggamit.

3. Ang bukas at saradong model ay tumutukoy sa paraan ng pag-access sa model

May mga model na maaaring i-download at patakbuhin ng ibang organisasyon; karaniwang tinatawag ang mga ito na open-weight model. Ang iba naman ay magagamit sa pamamagitan ng serbisyong kontrolado ng tagapagbigay ng model. Inilalarawan ng paliwanag ng NTIA tungkol sa pag-access sa model ang pagkakaibang ito at ang magkakaibang antas ng pagiging bukas.

Hindi sinasabi ng alinman sa dalawang label kung saan napupunta ang datos ng inyong property. Maaaring tumakbo ang isang bukas na model sa cloud ng supplier sa halip na sa sarili ninyong mga computer. Ang paghawak ng datos ng isang saradong model ay nakadepende sa serbisyo at kasunduan. Itanong kung sino ang nagpapatakbo nito, saan nito pinoproseso ang impormasyon at sino ang nagpapanatili nito. Hindi kailangang pumili ng teknolohiya ang inyong team batay sa mga acronym.

4. Kailangan ng magkahiwalay na sagot para sa pagproseso, pag-iimbak at pagsasanay

Ang pagproseso ay paggamit ng impormasyon para makabuo ng sagot. Ang pag-iimbak ay pagpapanatili ng impormasyon pagkatapos nito. Ang pagsasanay ay paggamit ng datos para baguhin ang model. Ang pagtingin sa isang maintenance manual para sagutin ang tanong ngayon ay hindi, sa sarili nito, nangangahulugang ginagamit ang manwal na iyon para sanayin ang model.

Sundan ang pagdaloy ng isang karaniwang tanong. Aling mga bahagi ng mensahe ng residente ang lumalabas sa property platform? Aling AI o ibang serbisyo ang tumatanggap sa mga iyon? Saan matatagpuan ang mga file, saan ginagawa ang pagproseso at saan naroon ang mga backup? Gaano katagal pinapanatili ang mga prompt, sagot at log? Sino ang maaaring makakita sa mga ito, at ano ang nangyayari matapos burahin ang mga ito?

Hindi ginagamit ng Wisbid ang datos ng mga customer para sanayin ang mga AI model. Ang paggamit ng impormasyon para sagutin ang tanong tungkol sa maintenance ay iba sa pagsasanay ng model gamit ang impormasyong iyon.

Inilalarawan ng Patakaran sa Pagkapribado ng Wisbid ang iba pang usapin, kabilang ang paggamit ng datos na may kaugnayan sa AI, mga service provider at pagpapanatili ng datos. Humingi ng malinaw na sagot kung aling mga rekord ang pinoproseso, sino ang maaaring mag-access sa mga ito at gaano katagal pinapanatili ang mga ito. Magkahiwalay na usapin sa pagsasanay ng model ang pagproseso ng isang tanong at pagpapanatili ng rekord nito.

Ang pahayag lamang na sa Singapore naka-host ang serbisyo ay hindi sumasagot sa lahat ng tanong tungkol sa lokasyon ng pagproseso. Saklaw ng mga obligasyon sa proteksiyon ng datos ng PDPC ang proteksiyon, pagpapanatili at paglilipat ng datos sa ibang bansa. Isali sa talakayan ang namumuno sa proteksiyon ng datos ng inyong organisasyon bago mag-upload ng mga rekord ng residente. Para sa paunang demonstrasyon, gumamit ng mga kathang-isip na rekord o rekord na maayos na tinakpan ang sensitibong impormasyon.

5. Kilalanin ang mga babala bago magbigay ng mas malawak na access

Mga tagubiling nakatago sa loob ng dokumento

Maaaring may teksto sa attachment ng kontratista na naglalayong ilihis ang AI mula sa inyong gawain. Tinatawag itong prompt injection o pagsingit ng mapanlinlang na tagubilin. Mga babala ang hindi inaasahang hiling na ilantad ang mga rekord, bumisita sa walang kaugnayang link o magpadala ng impormasyon sa ibang lugar. Nakatago ang ilang pag-atake, kaya hindi sapat ang pagbabantay ng mga tauhan lamang. Itanong sa supplier kung paano nito nililimitahan ang mga pagkilos na maaaring ipagawa ng panlabas na nilalaman sa AI.

Impormasyon o pagkilos na lampas sa saklaw ng trabaho

Kailangang siyasatin ang sagot na may detalye ng ibang residente, o impormasyong galing sa isang property na hindi karaniwang naa-access ng user. Ganoon din kung nagpapadala ng mga mensahe o nagbabago ng mga rekord ang isang agent sa labas ng nakatalagang gawain nito. Tinatawag ng OWASP na excessive agency ang labis na pahintulot o awtonomiya. Hilinging ipakita ang mga limitasyon sa access, mga hakbang sa pag-apruba at tala ng aktibidad na maaaring suriin ng inyong team.

Kapani-paniwalang sagot na walang maaasahang ebidensiya

Ang inimbentong petsa ng warranty ay pagkukulang sa pagiging maaasahan, kahit walang umatake sa sistema. Buksan ang binanggit na kontrata at suriin ang asset at mga petsa. Ipaubaya sa mga awtorisadong tao ang mga desisyon sa kaligtasan, pangakong gumastos at pagtanggap sa natapos na trabaho.

Balikan natin ang tumatagas na kisame. Natutukoy ng kapaki-pakinabang na resulta ang tamang trabaho, itinuturo ang kaugnay na ebidensiya at nililinaw ang susunod na hakbang. Magsimula roon, sa gawaing nauunawaan ng inyong team at mga pahintulot na kaya ninyong ipaliwanag, bago bigyan ng mas malaking responsibilidad ang AI.