如果您正在考慮在人力資源或運營流程中使用智能工具(機器學習/人工智能)，請考慮向潛在供應商提問。

告訴我有關用于訓練算法和模型的數(shù)據。

合法和非法的偏見都通過訓練數(shù)據集滲透到智能系統(tǒng)中。沒有所謂的無偏差數(shù)據集，因為數(shù)據僅在上下文中出現(xiàn)。數(shù)據集的來源，完整性，準確性和上下文是什么?生成數(shù)據的群體的基本人口統(tǒng)計信息是什么(年齡，性別，地理位置，種族以及可以指定的其他信息)?

對系統(tǒng)進行培訓需要多長時間?

每個智能工具都必須了解您公司的詳細信息和特定的工作流程。一些供應商將學習曲線作為實施過程的一部分。其他人則從交易中學習。有些系統(tǒng)需要18個月的培訓。

我們可以更改歷史數(shù)據嗎?

您可能要修改計算機的結果，因為它們反映了您的歷史記錄的偏見。進行對話很重要;它將為您提供真正風險的窗口。這個問題的答案很可能是“你做不到”。

將其關閉會怎樣?如果您將其關閉，我們將收到多少通知?

想象一下，您使用的工具可以完成多名員工的工作(例如，審查簡歷的來源)。如果該工具以需要關機的方式失敗，那么您會得到哪種預先警告?由于大多數(shù)提供者都處于試驗階段，因此，如果項目結束，該問題的答案也很重要。實際上，他們是數(shù)字員工，最好有一個替換計劃。

見約翰Sumser更多的列這里。

我們是否擁有從我們那里學到的機器?我們如何攜帶這些帽子數(shù)據?

這些系統(tǒng)運作的部分方式是，它們既可以在匯總案例中也可以在個別案例中學習。大多數(shù)供應商都保證您的數(shù)據是“匿名的”。更換供應商后，您可能仍不希望您的操作方法成為更大的基準測試過程的一部分。

6.總擁有成本是多少?

我們對智能機器的行為知之甚少。像任何員工一樣，他們需要培訓，監(jiān)督和紀律。確保對啟用的任何學習機的總擁有成本有清晰的了解。

我們如何知道模型和算法何時“漂移”?

所有數(shù)據模型和算法都會老化。有時，這是正常的降級。其他時候，這是完全失敗的。知道智能工具何時脫離困境對于管理它至關重要。

服務附帶什么樣的培訓?

與機器合作伙伴合作不同于與人工合作伙伴合作。機器交付結果的能力會隨著時間而下降。處理可變質量的輸入是人際關系中的正常現(xiàn)象。使用機器時，我們不習慣這一點。

當情況變化時我們該怎么辦?

正如其創(chuàng)造者所愿相信的那樣，學習機器的機器可以在瞬息萬變的環(huán)境中工作。昨天可行的建議今天可能會失敗。當機器發(fā)出的指示不相關或錯誤時，其效用就會下降。知道如何調整工具以適應變化的環(huán)境是擁有和維護它們的關鍵部分。

另請參閱：當智能工具看不到重要內容時

我們如何監(jiān)控系統(tǒng)性能?

擁有機器學習工具的最大支出可能是監(jiān)視實際情況與建議之間的關系。這是監(jiān)督算法任務的關鍵部分。就像生產線末端需要的質量控制一樣。

您對產品責任有何看法?

確保就該工具的工作方式以及供應商如何監(jiān)視機器學習曲線的影響進行長時間的交談。這里的關鍵問題是“如果您的工具的建議或決定對我們的員工或我們的業(yè)務造成損害該怎么辦?”

獲取系統(tǒng)中使用機器智能的每個進程的清單。

探索使用算法，模型或其他形式的機器智能的每個地方。這就是執(zhí)行風險所在。

您可能會猜到，我將在今年6月于Select HR Tech的研討會上談論這些問題。采購AI所涉及的期望與傳統(tǒng)軟件獲取所帶來的期望不同，并且此次會議具有一系列實踐經驗，其中包括名為“ AI&Intelligent Technologies”的我的實踐。