利用AI搜集个资「监视定价」 加州议会拟立法禁止

AI技术应用层面越来越广，但并非每项用途都是出于善意。联邦贸易委员会（FTC）年初的报告就指出，不少商家利用AI技术汇整消费者个资，其中一家婴幼儿用品店还会针对新手父母额外涨价，整体来说，这些伎俩可以让营收增加2%至5%。

AI协助的哄抬物价行为，一般称为「监视定价」（surveillance pricing）或「针对调价」（targeting and tweaking price），因为它们未经同意，搜集个人偏好，并据此针对特定人调涨价格。

CalMatters的报导举例指出，目标百货（Target）商场在2022年与圣地牙哥县以500万美元和解以避免闹大，Target被控监视客人是否把车停在附属停车场以决定商品售价。

另一个则是消费者保护团体Consumer Watchdog的研究员Justin Kloczko近来发现，同样距离的一趟行程，他太太的Lyft车资竟然多了5美元。SFGATE的报导则指出，湾区的旅馆住客，竟然因为地址属于较富裕的社区，而每晚被多收了500美元。

而且，AI调价还不只针对日常消费，连房屋仲介与医疗保险都会用。仲介用AI分析客户喜好，自动提供更吸引人的房屋照片；2023年的集体诉讼则指控Cigna与UnitedHealthcare利用AI决定是否提供医疗服务，但两者都否认。

加州议会管制AI定价的背景与进度

不只是加州，其他各州在2024年的AI管制议案共年增加163%，最大原因是联邦改朝换代，国会迟迟无法敲定全国一致的管制法案。但对加州来说，CalMatters认为，问题又更复杂，因为州长纽森很可能会否决技术相关的AI议案，因此能浮上台面的议案多半只针对鸡蛋或日常用品的锁定调价。以下是通过能见度较高的五个议案：

─众议会325号议案（AB 325）：提案人为戴维斯选区的民主党籍Cecilia Aguiar-Curry，宗旨在方便加州检察长控告滥用对手资料、不当训练自家AI调价的企业。

─参议会259号议案（SB 259）：禁止监视个人资讯与身体特征，遂行监视定价。

─参议会52号议案（SB 52）：禁止房东利用运算法订定租金，并允许房客对此类行为提告。此一议案来自于八州联合控告德州租赁公司RealPage，他们在2020年被The Markup与纽约时报发现，以AI进行租客背景调查，并无端诬陷租户有前科、取消租约。

─参议会295号议案（SB 295）：提案人是来自贝克斯菲的民主党人Melissa Hurtado，2024年版的草案遭到质疑后，她修改成2025年版并再度提交，意在防止演算法的针对调价。

─众议会446号提案：起草人为来自圣地牙哥的民主党人Chris Ward，内容是禁止零售商依据相貌调整价格，他在说明中还特别提及Target与圣地牙哥县的和解案 ，担心类似行为将变成滥用脸部辨认技术，造成对特定族裔与身体特征的歧视。