【商品架构day6】阿里闲鱼亿级商品结构化 - 用技术的力量去降低商户录入成本

野性酷女 2023-07-07 03:43 24阅读 0赞

商品结构化是增强商品信息质量的关键环节，如何高效地去结构化，既让商户发布的成本最低、又让商品的信息质量最高？这里是闲鱼团队意境老师带来的[分享][Link 1]。

# **1. 缘起** #

闲鱼是一个典型的C2C场景的闲置交易平台。每个在闲鱼的用户都能享受到自由交易的乐趣。在这里，可能你只要简单的输入商品名，商品价格，库存等信息就能完成一个商品的发布。即便是发布以后，你也可以随时修改价格，内容等信息。充分的自由是闲鱼活力的来源，但是这对于一个电商品台来说却有着难言的痛苦。本文要说的商品结构化就是痛点之一。

商品结构化为什么重要？结构化信息是平台认识商品的一个基础。只有平台了解商品的各个属性，才能准确地将适合的商品推荐给适合的用户。这样才能更加高效地为买卖家用户创造价值。

而所以C2C平台的商品结构化之所以难，是因为C商家完成结构化的负担重而动力不足。怎样让用户以最小的成本，来完成结构化就是一个非常大的挑战。我们不能寄希望于商家后台这样很重的解决方案，我们需要的是一个简单高效灵活的解法。

# **2. 技术破题** #

怎么解决？首先我们从整个C2C商品发布的全周期做一个方案的对比分析。

![format_png][]

**方案一 离线式方案**

改方案包括算法关联&社会化方案。算法关联方案是通过技术手段对用户发布的商品进行分析，从而进行同款的关联或是属性打标。社会化方案核心是将商品结构化包装成一个活动。这样能通过用户参与答题的方式，进行商品结构化的关联。离线方案核心的缺点是关联链路太长，数据回流慢。更为重要的问题是分析出的数据没有用户确认，无法在显示域中使用。

**方案二 手动关联方案**

这个是发布中的处理方案。这个方案可能是最为直观的方案。发布过程中，引导用户做属性打标或者同款商品的关联。这个方案的优点是简单直观。缺点同样明显：完全将成本转嫁给用户。对C卖家来说，每增加一个发布选择项，都可能导致用户流失。这个方案可以做为结构化的补充，却不是我们寻找的最优解。

我们的思考：我们能否在保障实时性的前提下，实现一个高效低成本的方案呢？答案就是本文给出的方案：智能发布方案。如果闲鱼用户在发布阶段就能将准备发布的商品自动关联上手淘的商品库中的某个商品。该商品就能使用同款商品的若干结构化信息，商品结构的化的问题不就迎刃而解了么？

**方案对比**

![format_png 1][]

可见智能发布方案是一个成本和效果最为均衡的方案。

# **3. 产品逻辑** #

先从通过下图，了解一下产品核心逻辑:(以视频发布为例)

![format_png 2][]

**简单拆解：**

*  主体对焦

作为智能识别的开始。我们需要通过AI算法识别出端侧的拍摄的主体对象。同时还通过tracking 算法对物体做短暂的跟踪对焦。这样做的目的是跟用户对识别物体目标保持一致。

*  智能识别&引导

我们会在用户拍摄过程中对被拍摄物体进行实时识别。并且我们非常创新地通过算法，引导用户拍摄目标对象的核心信息。这里引导的作用是为了放大算法的效果。俗话说巧妇难为无米之炊。如果用户拍摄的内容没有目标的核心信息，算法也很难做出精准的预测。

*  结果反馈&用户确认

当用户拍摄完成，我们会以同款的方式，让用户进行一个简单的选择。一旦用户选中某个商品(可以不选)就能完成结构化关联。至此我们将复杂的商品结构化问题，转变成用户手指简单的一点。用户的结构化成本已经微乎其微。

**4. 架构设计**

**4.1 技术挑战**

综上智能发布的核心解法是将商品结构化的产品问题，转变成同款商品匹配这样的技术问题。

所以我们的核心技术挑战：

1.  在发布阶段进行商品识别的实时性保障
2.  怎样通过压榨AI的能力从而最大化同款商品的匹配成功率

那技术上可行么？从闲鱼角度解这个问题，我们有三大技术优势:

1.  以AliNN为代表的移动AI解决方案使得端侧AI计算成为可能
2.  我们有这个星球上可能最大的商品信息库(淘宝&天猫)
3.  阿里达摩院雄厚的AI能力

我们可以通过前置部分AI能力到端侧，大幅度提升链路的实时性。同时我们将AI识别能力和淘系商品库做结合，完成同款商品匹配的功能。

为了做到上面的能力，我们构建了完整的智能发布技术架构。

**4.2 逻辑架构**

首先介绍我们的逻辑架构

![format_png 3][]

整体设计上面分为三层:

1.  UI 展示和交互层。核心是处理用户输入和结果反馈。
2.  逻辑处理层。主要是控制智能识别管线的运作逻辑和子模块处理结果的分发
3.  框架层主要是各个核心处理子模块

**4.3 架构细节**

细节来说，我们通过协同flutter，java/Oc和C++三层逻辑来构建高效的识别能力。如下图所示：

![format_png 4][]

主要设计考量：

1.  充分利用不同的技术，最大化研发效能。
    
    我们充分利Flutter多端一致性的优势在UI层使用Flutter进行开发。同时我们将部分共同的算法下沉到C++层。这样能大幅提升两端逻辑的复用率和一致性。
    
     
2.  充分利用端侧的计算能力
    
    模糊检测，相似度检测，主体识别，tracking这些算法都是在端侧实现的。除了充分利用端侧的计算能力外，更重要的是提升拍摄过程中的处理效率。最大化降低对网络请求的依赖。
    
    通过极致的压缩算法，将最终上传的图片大小控制在10K左右。即便是4次请求也不过40K。可以说对用户流量不会构成压力。
    
     
3.  管线编排系统

考虑到后期系统的持续优化，对子模块的处理逻辑的调整不可避免。因此我们设计了一个灵活的管线来管理所有的处理逻辑。该管线能灵活组合java/Oc和C++的能力。并且可以方便做到子功能的顺序调整和功能增减。架构设计如下所示（以android为例）：

![format_png 5][]

**用户隐私的保护**

用作识别的图片会做加密处理，将用户隐私泄露的风险降低到最小。出现在公域中的图片地址都是无法直接访问的。即便泄漏用户的隐私也可以保全。

**4.4 算法架构**

算法侧的我们也做了大量的优化。

智能发布的最核心算法是同款商品的匹配算法。我们将单帧的预测算法改进为多帧预测。并且我们创新性地将算法和交互做深度融合，极限压榨算法的极限能力。过程如下所示：

如果算法发现当前帧若不足以作出较为准确的算法预测，则将图像信息向后传递。在传递过程中，及时通过文案引导用户拍摄算法所需要的信息。依次迭代直到完整预测出商品信息。算法处理逻辑如下图所示。

![format_png 6][]

**5.效果**

实时性处理性能：经过我们的测试，识别过程除主动提示外对用户无明显感知。用户的正常拍摄过程无掉帧等性能问题。

同款商品识别效果方面：

总体上基于多帧识别准确度相比单帧提升约20%。

受限数据披露限制，不方便贴出分类目具体测试数据。给出几个相对明确的结论：

经过我们的试验，我们发现在彩妆/香水/美妆工具、美容仪、玩具等标品类目中识别率比较高。这些商品的核心信息往往容易在物品表面找到，容易识别。

而在非标品或者半标部分，例如童装，运动鞋等识别率相对较低。这些商品的信息往往在外形中透出不足。这时候算法就需要用户配合拍摄例如品牌这样的核心信息。总体来说识别难度更大。

**6. 未来**

智能发布将在9月份的版本中跟大家见面，欢迎大家试用&反馈。首先上线的是视频发布的部分，后续还会增加图片，活动等场景。通过智能识别的项目，我们相信一定可以不断提升闲鱼商品结构化率。

通过该项目我们不仅构建了闲鱼完整的对商品的实时识别能力。同时也沉淀了图片预处理，tracking等一批端计算核心算法。基于此，我们完全可以将更加实时的AI的能力赋能给更多场景（例如扫指定商品或者logo参加特定活动等）。

我们畅想的未来发布是一个高度智能化的发布。基于摄像头对商品做深层次理解，系统直接给出商品信息，结构化标签，推荐价格，甚至新旧程度等发布要素。用户所要做的仅仅就是一个确认。今天的智能发布只是我们伟大征程的第一步，我们会向着目标不断努力！

--------------------

***=>更多文章请参考***：**《中国互联网业务研发体系架构指南》**

[https://blog.csdn.net/Ture010Love/article/details/104381157][https_blog.csdn.net_Ture010Love_article_details_104381157]

***=>更多行业权威架构案例、领域标准及技术趋势请关注微信公众号 '软件真理与光'：***

![公众号：关注更多实时动态][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1R1cmUwMTBMb3Zl_size_16_color_FFFFFF_t_70] 更多权威内容关注公众号：软件真理与光

[Link 1]: https://mp.weixin.qq.com/s?__biz=MzI0NTE4NjA0OQ==&mid=2658361407&idx=1&sn=a91026e5ffd75e837618b537965ac775&chksm=f2d5ab51c5a22247f822acd05a62db9c4a424a3bae93fac1b685a8d65738bf24952becfbdb12&mpshare=1&scene=1&srcid=&sharer_sharetime=1582186173519&sharer_shareid=fa3df233f75aa754ce124be9fbc9e219&key=741aa673edb440ca7a081cd9a8a8b559e03e6fd7c7a175987320bdcfee1f2acb7e59c57171b8edc1ca3eca85ba3848bb0c1bb9e70d66aa1887e47dbbbf3f00fcf3f91468d23c79b99d27b522f8aa6b6c&ascene=0&uin=Mjc3NjQzMjc4MQ%3D%3D&devicetype=iMac+MacBookPro11%2C4+OSX+OSX+10.14.6+build%2818G2022%29&version=11020201&lang=zh_CN&exportkey=AcyenGriW5Nes3dehuZoA6w%3D&pass_ticket=3lJpET5li9ZhhPVMNf5vGC404H%2FVsODJ7w7Xw8T17Fd0xGPJur5BzLcQP9gTKEex
[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6dkN6eXZKWWlia1ZidkJMQXlhVmJ5cTFyMmdWaWNvOHBXeUgzM0lNaWNpYmtCYzZVUUtjaWJtbXZ2T2cvNjQw?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6V1dXeTJPNlZxSjlVNm5LeXQ2WHJydDFOd2s1UlZ2NGd2elkwelA2VXlxa1hkVEYzeEN3bjhBLzY0MA?x-oss-process=image/format,png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6T2UzYWdFR3NtclRmZGFoeHFHbW5yRXVmbWp1UHE0d2NiWUJVYWdlQUlMRTF4WXNDTHBXbkVRLzY0MA?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6N052WVYwaWJpYjBjb2dNNnVkUHRLNFdRNFh5UWtRaWNTVWx5T1JlTkRlSE5tbURaVmRJdlppYjFQUS82NDA?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6WWMxZkhjbDI2elRuRW1JbGplWW55V1k5VmVKVG95cGFwSmNOdUtGdWlja3JVVGlibXAxeXNNaFEvNjQw?x-oss-process=image/format,png
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6SExsMmx3bjdjeWthMGpqUmd3UWUxZ1JpYWZUVVJLQXgzQ1FxMXUxVTRHbDBVYUQ2aWJtOHNtYmcvNjQw?x-oss-process=image/format,png
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy90TUp0ZmdJSWliV0pxdnRGVDJpYXd2NWNzR0tMNjJvUkJ6YzFreEM0dloxd0QzUG50S1NOdk5McW4wcmszWjZCRlVRbzBaUk1yamgxVnlPZmROQ3V1NjNRLzY0MA?x-oss-process=image/format,png
[https_blog.csdn.net_Ture010Love_article_details_104381157]: https://blog.csdn.net/Ture010Love/article/details/104381157
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1R1cmUwMTBMb3Zl_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200218200420222.jpg?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1R1cmUwMTBMb3Zl,size_16,color_FFFFFF,t_70