强势入驻Kaggle，却什么奖牌都没拿到怎么办？第一名：我也很苦恼我应该怎么办？很多参与Kagg

参与：泽南、魔王、杜伟
参与Kaggle竞赛却没有拿到奖牌，我应该怎么办？
很多参与Kaggle竞赛的人都希望能够通过构建具有竞争力的算法来提升自己的水平，但对于绝大多数参与Kaggle竞赛的同学来说，在一番努力之后没有拿到任何奖牌显然是大概率事件。
在这之后应该怎么办呢？
参加Kaggle竞赛屡屡败北后， Kaggle社区NotebooksGrandmaster第一名AndrewLukyanenko总结了自己的经验：

文章图片
孟加拉语是全球使用人数第五的语言。 Kaggle上有一个孟加拉语识别挑战赛。这种语言拥有49个字母和18个变音符号，这意味着它存在很多种字位（书写语言的最小单元）。
在「Bengali.AIHandwrittenGraphemeClassification」挑战中，参赛者需要使用机器学习方法来预测这些字位的三个独立部分——字位根、元音变音符号和辅音变音符号。
看起来有点超纲了？这样一个可能有些小众的比赛，吸引了超过两千支队伍参赛。起初我只是单枪匹马前来参加，但很快就找到了四个志同道合的网友组成了团队。我们在这场比赛中花费了大量时间和资源……最终却只名列第254位，没有获得任何奖牌。
「社会的毒打」让我沮丧了很长一段时间。

文章图片
失败后我究竟做了些什么？在这之后，我对自己所做的事情进行了反思，阅读了高阶团队的解决方案，并吸取了一些经验教训。本文中有很多可以分享的东西，它们适用于所有数据竞赛类型，大致可以分成几类话题：思维方法和一般方式、代码实践、需要提前准备的东西。
工欲善其事，必先利其器：软件环境

文章图片
正如大多数机器学习实践，训练模型是Kaggle竞赛的主要部分。 KaggleNotebook看起来很美好，但是它给的GPU算力远远不够，只有每周30个小时。按照目前的经验看，想要好成绩都要将算法运行在自己的机器或者其他云服务上。
首先我们需要设置工作环境，这项工作用pip、conda等方法就可以实现。你最好在Kaggle上检查各个库的版本，并在自己的环境中安装同样的版本——不同版本的组件可能意味着不同的API或逻辑。
【强势入驻Kaggle，却什么奖牌都没拿到怎么办？第一名：我也很苦恼】硬件设备

文章图片
另一个重要的因素当然是硬件本身。如果我们有大量数据要处理（如这项Kaggle竞赛），那么在单显卡上训练单个模型就得花费一天甚至更长时间。并且，运行实验通常要比训练最终模型花费的时间更多。所以我们需要尝试不同的硬件。
我的WindowsPC上配置有双路英伟达GeforceGTX1080TI ，但这显然不够。我在GoogleCloud上多次租用GPU ，但忒贵了，所以我开始尝试新的方法。
最近我听说了Hostkey（一家高级网络服务提供商），你可以租用他们的服务器。以下是Hostkey的promoprogram：
WeofferfreeGPUserverstothewinnersofgrantsatlargecompetitionvenuesfortheiruseinfurthercompetitions,fortrainingorforpersonalprojectsrelatedtodatascience.
但作为交换，参赛者必须在社交媒体上分享他们的反馈和经验。
最开始，我得到了一台配备4路1080ti的服务器。所以设置环境没遇到什么问题，并很快开始训练模型。在单个GPU上的训练取得了非常好的进展，于是我开始逐渐增加GPU数量。结果证明， 2、3个GPU也能运行良好，但使用4个GPU时却失败了。技术支持很快给出反馈，并在几天内查明了问题所在。原来服务器本身存在一些问题，处理器无法跟上4路1080ti的全功率运行。
所以，我改用了另一台配备双路2080ti的服务器。但由于电源供应不够强大，刚开始的时候遇到一个小问题。然后工程师增加了一个电源，问题也就迎刃而解了。此后，我在这台服务器上运行了很多模型，结果都很不错。所以接下来我还会选择租用Hostkey的服务器。
设计运转良好的工作流程

文章图片
优秀的工作流程至关重要。这里的「流程」（pipeline）指的是用来准备训练数据、训练和推断的代码。这里你可以使用一些高级的框架，但从头开始自己写代码也是不错的选择。使用高级框架的主要优势在于可以快速改变，并确保基础层面正常运转，这样你就可以专心于高级功能了。
在竞赛中，我先使用Catalyst的JupyterAPI ，但由于出现问题便很快停止了。过了一段时间后，我决定听从队友的建议转向Catalyst中的ConfigAPI 。这个API更适合我，但需要很长时间才能适应。
对此，我得到的经验是：选择一个方法（特定的框架或工作流程）并坚持下去可能是更好的做法。
无法直视的代码

文章图片
很多人说Kaggle竞赛参与者写的代码惨不忍睹……事实经常如此，其主要原因是对快速迭代的需求，因此相对于写更好的代码，尝试新想法是更加实用的做法。不过我并不认同这一说法。
有时候，稍微进行代码优化会产生非常大的影响。大家可以看一下上面的截图，代码优化可以让推断速度提升30倍。训练过程也变得更快，因此把事情做好非常重要。
但是……
不要盲目相信论坛或kernel中的代码和想法

文章图片
Kaggle是个很不错的平台，拥有大量可用的优秀notebook ，还有可以找到酷炫想法的论坛。然而，事实并不尽然。
这里当然有很多高质量的notebook ，论坛上也有许多不错的想法，但同时它也存在很多问题：
一些notebook中的代码和代码实践存在错误，还有验证问题、想法的错误实现等问题；
论坛中的一些想法存在误导性。这并不代表提出想法的人带有恶意，而是因为很多想法本身并不work ，只有和别的想法结合才能取得效果，有些需要性能足够好的模型等等。
因此，如果你想使用现成的代码和想法，请确保先进行检查和验证。
不断寻找新的idea ，并进行尝试

文章图片
参加Kaggle竞赛最酷的体验之一是，参赛者会不断追求新的SOTA结果。而为了获得最佳成绩，参赛者必须尝试新事物。所以他们需要阅读大量arxiv论文，搜寻好的博客文章等等。
但值得注意的是，仅仅阅读查找新方法远远不够，还必须进行尝试。虽然有时为一些新的idea编写代码非常困难，但这是学习新事物的绝佳方式。最后，即使一些idea不work ，你依然积累了有用的经验。
避免过度调参

文章图片
过度调参是一种常见的误区（我自己也栽过几次）。有些人认为调参能帮助他们取得好成绩，这种观点有一定的道理，但并非完全正确。
在tabular竞赛中，有必要执行两次调参，分别在竞赛的开始和结束阶段。
调参在竞赛的初始阶段很重要，因为梯度提升以及必须针对不同的问题对其他模型进行调参。不同的目标和深度、叶节点的数量以及其他参数在不同问题中会导致不同的分数。但当你发现一些好的参数之后，修复它们并在竞赛临近结束的时候再touch 。此外，当你添加一些新特性或尝试新idea时，保持超参数不变，这样你就可以对实验结果进行比较。
当你穷尽所有的idea时，你可以再次进行超参数调优，以小幅提升分数。
在涉及深度学习时，情况则有些许不同。这时，超参数空间很大：你可以对架构、损失、数据增强、预/后处理以及其他参数进行调整。这样一来，你就不得不花费大量时间进行优化。
最后，需要牢记的一点是，好的idea比调参更能提升分数。
参考链接：https://towardsdatascience.com/what-to-do-when-you-dont-get-any-medal-in-a-kaggle-competition-b54cc433da3

强势入驻Kaggle，却什么奖牌都没拿到怎么办？第一名：我也很苦恼

推荐阅读

新华网@美国会参议院未能推翻总统否决令

白百何二胎儿子正面照曝光，3岁的他长相像爸爸，母爱满满

五通桥区|乐山五通桥区出现刺激性气味，官方：监测氯气等指标未出现超标

中国青年报|“颜值经济”正当时高颜值厨电更易俘获年轻人的心

项羽▲5.13更新：官方正式回应锚点，五虎或下架重做，皮肤秘宝圈钱实锤

新陈代谢慢的人怎么提高代谢？

开豪车碰瓷从深圳“碰”到柳州男子被控诈骗罪

信阳毛尖茶的采摘与制作讲解

上海发布|本市加强对国内疫情中风险地区来沪返沪人员健康管理

冬季房间太干燥怎么办

科技|航锦科技：公司第一期员工持股计划约973万股出售完毕

白茶的药用功效是什么,白茶的变质是什么

工信部：上半年电信业务收入6927亿元 4G用户数12.83亿户

Xbox|无需购买即可体验！《光环：无限》不删档公测提前开启

##厨房“不要做”系列，老婆不听劝做了三四个，你家是不是也有呢？

碰到一些借钱不还的人，以后还敢借钱么

肚量越大福运越好的3个星座，不生气，不计较

阿水|猫皇魔咒解除，TES战胜WE锁定常规赛第1，赛后阿布用15字形容阿水

不一样的我不一样的欢乐|显然已经给出答案，唐朝真的以胖为美？杨贵妃的真实体重

【经济日报】小微贷款增速超四成，如何实现？