中存储信息,从大数据存储中检索信息,以便处理这些信息。大多数大数据存储都提供了服务和 API 来存储和检索该信息。
3.1.2.2 大数据治理
数据治理涉及到定义指南来帮助企业制定有关数据的正确决策。大数据治理有助于处理企业内或从外部来源传入的数据的复杂性、量和种类。在将数据传入企业进行处理、存储、分析和清除或归档时,需要强有力的指南和流程来监视、
构建、存储和保护数据。
除了正常的数据治理考虑因素之外,大数据治理还包含其他因素: ? 管理各种格式的大量数据。
? 持续培训和管理必要的统计模型,以便对非结构化数据和分析进行预处 理。请记住,设置处理非结构化数据时的重要一步。 ? 为外部数据设置有关其保留和使用的策略和合规性制度。 ? 定义数据归档和清除策略。
? 创建如何跨各种系统复制数据的策略。 ? 设置数据加密策略。 3.1.2.3 服务质量层
此层复杂定义数据质量、围绕隐私和安全性的策略、数据频率、每次抓取的数据大小和数据过滤器:
? 数据质量
? 完整地识别所有必要的数据元素 ? 以可接受的新鲜度提供数据的时间轴 ? 依照数据准确性规则来验证数据的准确性
? 采用一种通用语言(数据元组满足使用简单业务语言所表达的需求) ? 依据数据一致性规则验证来自多个系统的数据一致性
? 在满足数据规范和信息架构指南基础上的技术符合性 ? 围绕隐私和安全的策略
需要策略来保护敏感数据。从外部机构和提供程序获取的数据可能包含敏感数据(比如 Facebook 用户的联系信息或产品定价信息)。数据可以来源于不同的地区和国家,但必须进行相应的处理。必须制定有关数据屏蔽和这类数据的存储的决策。考虑以下数据访问策略:
? 数据可用性 ? 数据关键性 ? 数据真实性 ? 数据共享和发布
? 数据存储和保留,包括能否存储外部数据等问题。如果能够存储数 据,数据可存储多长时间?可存储何种类型的数据?
? 数据提供程序约束(政策、技术和地区) ? 社交媒体使用条款(参见 参考资料) ? 数据频率
提供新鲜数据的频率是多少?它是按需、连续还是离线的? ? 抓取的数据大小
此属性有助于定义可抓取的数据以及每次抓取后可使用的数据大小。 ? 过滤器
标准过滤器会删除不想要的数据和数据中的干扰数据,仅留下分析所需的数据。
3.1.2.4 系统管理
系统管理对大数据至关重要,因为它涉及到跨企业集群和边界的许多系统。对整个大数据生态系统的健康的监视包括:
? 管理系统日志、虚拟机、应用程序和其他设备 ? 关联各种日志,帮助调查和监视具体情形 ? 监视实时警告和通知
? 使用显示各种参数的实时仪表板 ? 引用有关系统的报告和详细分析
? 设定和遵守服务水平协议 ? 管理存储和容量 ? 归档和管理归档检索
? 执行系统恢复、集群管理和网络管理 ? 策略管理 3.2 功能应用
前面提到的技术架构的这些层定义了各种组件,并对它们进行分类,这些组件必须处理某个给定业务用例的功能性和非功能性需求。本文基于层和组件的概念,介绍了解决方案中所用的典型原子模式和复合模式。通过将所提出的解决方案映射到此处提供的模式,让用户了解需要如何设计组件,以及从功能角度考虑,应该将它们放置在何处。模式有助于定义大数据解决方案的架构。利用原子模式和复合模式可以帮助进一步完善大数据解决方案的每个组件的角色和责任。
3.3 原子模式
对于大数据上下文中经常出现的问题,原子模式 有助于识别数据如何是被使用、处理、存储和访问的。它们还有助于识别所需的组件。访问、存储和处理来自不同数据源的多种数据需要不同的方法。每种模式都用于满足特定的需求:例如,可视化、历史数据分析、社交媒体数据和非结构化数据的存储。可以将多种原子模式结合使用,组成一个复合模式。这些原子模式没有进行分层或排序。例如,可视化模式可以与社交媒体的数据访问模式直接交互,可视化模式还可以与高级分析处理模式进行交互。
3.3.1 数据使用组件
这种类型的模式处理使用数据分析结果的各种方式。数据使用模式可以满足几个需求。
3.3.1.1 可视化组件
可视化数据的传统方式以图表、仪表板和摘要报告为基础。这些传统的方法并不总是用来可视化数据的最佳方式。
大数据可视化的典型需求(包括新出现的需求)如下所示: ? 执行流数据的实时分析和显示 ? 基于上下文,以交互方式挖掘数据 ? 执行高级搜索,并获得建议 ? 并行可视化信息
? 获得先进的硬件,支持未来的可视化需求
? 正在进行研究,以确定人类和机器如何使用大数据洞察。这些挑战包括 所涉及的数据量,并且需要将数据与上下文相关联。必须在适当的上下文中显示洞察。
? 可视化数据的目的是为了更容易、更直观地使用数据,因此报告和仪表 板可能提供全高清的观看效果和 3-D 互动视频,并且可以为用户提供使用应用程序控制业务活动和结果的能力。