短文本的自身特性为短文本表示建模任务提出了新的挑战。这些挑战可以概括如下：
（1）短文本篇幅简短，缺乏上下文语境信息，且“一词多义”和“词表不匹配”现象普遍，这导致短文本难以被机器理解。
（2）短文本的语义相关性信号稀疏。短文本与长文本的主要区别就是短文本的字数较少，因此所要表达的内容就相对较少，所包含的关键词也较少，而且词语间的语义关系相对缺乏关联性。这不仅造成短文本的样本向量的稀疏性，还为有用特征的提取造成一定的困难，缺乏充足信息用于统计和推理，难以支持主题建模等传统文本处理算法。
（3）短文本书写不规范、噪声大，且短文本出现的语境通常表达比较口语化、随意。例如，QQ聊天中的“886”；微博中盛行的“神马”“浮云”等；发短信时出现的口头禅、方言谐音等。这些都不同于标准的书面用语，且字数有限，便决定了短文本具有的不规范性，从而难以对其应用句法分析等传统文本处理算法，也使得了解文本之间的上下文语义关联尤为重要。(www.xing528.com)
（4）短文本实时性强。短文本大多存在于微博、短信、评论等交互媒体中，而社交媒体最重要的一个特点便是实时互动性，这决定了短文本的实时性特点。再者，短文本数据量过于庞大，所要表达的含义也不够完整，这就决定了其长远价值不够高，但具有很高的实时价值。
短文本表示建模研究可以归属于文本挖掘研究范畴。当前，绝大部分传统文本挖掘任务和应用（包括文本聚类、主题检测等）通常采用基于统计分析的文本处理方法，将文本视为词袋（Bag-of-Words）[1]或者采取传统主题模型[2−3]等。然而，这些方法在挖掘过程中忽略文本中蕴含的抽象层次更高的、语义概括能力更强的词汇语义信息，导致语义挖掘不够深入。因此，文本挖掘的结果缺乏可靠的可解释性且易受噪声影响。而且，这些传统文本处理方法的缺陷在处理短文本时被保留并放大。这是因为，基于统计分析的方法需要充足的文本内容来进行统计推理，而短文本却比较稀疏，其缺乏充足的文本内容。
免责声明：以上内容源自网络，版权归原作者所有，如有侵犯您的原创版权请告知，我们将尽快删除相关内容。
