小弟我对结构化和非结构数据的理解
我对结构化和非结构数据的理解
现在网上对大数据有结构化和非结构化的争论，前者如XML，后者象网页上的文字、图片、音视频等内容。孰优孰劣，在这里我不想去评论它。我想说的是，应该换一个角度来看待这个问题，就是说，无论这些数据无论它外在表象是什么，到了CPU、磁盘层面，它们都是一串数据流，或者称字节数组。如果让这些数据能够被计算机处理和产生价值，它的前提是必须能够被CPU理解和计算。所以，在这个概念基础上，我在Laxcus体系设计里，对数据采用的是一种可格式化（formatable）的处理方案。这个方案简单来说就是这样：数据进入磁盘和CPU前，它们首先做一个预处理，被拆解成CPU理解的，或者能够按照一种即定规则，能够被CPU理解的格式。现在Laxcus的所有数据，都是按照这种方案来采集、整理、处理数据。这样做的好处有两个：1.因为规则明确，体系设计相对就简单了；2.在CPU层面，数据的处理速度会很快。典型的象SQL.LIKE这样模糊检索，在数据库里都很慢，但是在Laxcus分布环境下，这样的数据处理也可以马上获得结果。
现在网上对大数据有结构化和非结构化的争论，前者如XML，后者象网页上的文字、图片、音视频等内容。孰优孰劣，在这里我不想去评论它。我想说的是，应该换一个角度来看待这个问题，就是说，无论这些数据无论它外在表象是什么，到了CPU、磁盘层面，它们都是一串数据流，或者称字节数组。如果让这些数据能够被计算机处理和产生价值，它的前提是必须能够被CPU理解和计算。所以，在这个概念基础上，我在Laxcus体系设计里，对数据采用的是一种可格式化（formatable）的处理方案。这个方案简单来说就是这样：数据进入磁盘和CPU前，它们首先做一个预处理，被拆解成CPU理解的，或者能够按照一种即定规则，能够被CPU理解的格式。现在Laxcus的所有数据，都是按照这种方案来采集、整理、处理数据。这样做的好处有两个：1.因为规则明确，体系设计相对就简单了；2.在CPU层面，数据的处理速度会很快。典型的象SQL.LIKE这样模糊检索，在数据库里都很慢，但是在Laxcus分布环境下，这样的数据处理也可以马上获得结果。
版权声明：本文为博主原创文章，未经博主允许不得转载。