Lornatang
Lornatang

Taskonomy: Disentangling Task Transfer Learning翻译[下]

Taskonomy: Disentangling Task Transfer Learning翻译 上

Taskonomy: Disentangling Task Transfer Learning

任务：解构任务转移学习

Abstract

摘要

Do visual tasks have a relationship, or are they unrelated? For instance, could having surface normals simplify estimating the depth of an image? Intuition answers these questions positively, implying existence of a structure among visual tasks. Knowing this structure has notable values; it is the concept underlying transfer learning and provides a principled way for identifying redundancies across tasks, e.g., to seamlessly reuse supervision among related tasks or solve many tasks in one system without piling up the complexity.

视觉任务是否有关系，或者它们是不相关的？例如，可以通过表面法线来简化估计图像的深度？直觉正面回答这些问题，暗示在视觉任务中存在结构。了解这种结构具有显着的价值;它是转移学习的基础概念，并提供了识别任务间冗余的原则性方法，例如，无缝地重复使用相关任务之间的监督或者解决一个系统中的许多任务而不会增加复杂性。

We propose a fully computational approach for modeling the structure of the space of visual tasks. This is done via finding (first and higher-order) transfer learning dependencies across a dictionary of twenty-six 2D, 2.5D, 3D, and semantic tasks in a latent space. The product is a computational taxonomic map for task transfer learning. We study the consequences of this structure, e.g. nontrivial emerged relationships, and exploit them to reduce the demand for labeled data. For example, we show that the total number of labeled datapoints needed for solving a set of 10 tasks can be reduced by roughly 23 (compared to training independently) while keeping the performance nearly the same. We provide a set of tools for computing and probing this taxonomical structure including a solver that users can employ to devise efficient supervision policies for their use cases.

我们提出了一个完全计算的方法来建模视觉任务空间的结构。这是通过在潜在空间中发现二十六个2D，2.5D，3D和语义任务的字典（第一阶和更高阶）传输学习依赖关系完成的。该产品是用于任务转移学习的计算分类图。我们研究这种结构的后果，例如非平凡的涌现关系，并利用它们来减少对标记数据的需求。例如，我们表明，解决一组10个任务所需的标记数据点的总数可以减少大约23（与独立训练相比），同时保持性能几乎相同。我们提供了一套计算和探测这个分类结构的工具，包括一个求解器，用户可以利用这个求解器为他们的用例制定有效的监督策略。

1. Introduction

1.介绍

Object recognition, depth estimation, edge detection, pose estimation, etc are examples of common vision tasks deemed useful and tackled by the research community. Some of them have rather clear relationships: we understand that surface normals and depth are related (one is a derivate of the other), or vanishing points in a room are useful for orientation. Other relationships are less clear: how keypoint detection and the shading in a room can, together, perform pose estimation.

对象识别，深度估计，边缘检测，姿态估计等都是研究界认为有用和处理的常见视觉任务的例子。其中一些人的关系相当清晰：我们知道表面法线和深度是相关的（一个是另一个的衍生物），或者房间中的消失点对定位有用。其他关系不太清楚：关键点检测和房间中的阴影如何一起执行姿态估计。

image
image

Figure 1: A sample task structure discovered by the computational task taxonomy (taskonomy). It found that, for instance, by combining the learned features of a surface normal estimator and occlusion edge detector, good networks for reshading and point matching can be rapidly trained with little labeled data.

图1：计算任务分类（taskonomy）发现的示例任务结构。例如，通过将表面法线估计器和遮挡边缘检测器的学习特征相结合，发现用于重建和点匹配的良好网络可以用少量标记数据进行快速训练。

The field of computer vision has indeed gone far without explicitly using these relationships. We have made remarkable progress by developing advanced learning machinery (e.g. ConvNets) capable of finding complex mappings from X to Y when many pairs of
image

s.t.
image
are given as training data. This is usually referred to as fully supervised learning and often leads to problems being solved in isolation. Siloing tasks makes training a new task or a comprehensive perception system a Sisyphean challenge, whereby each task needs to be learned individually from scratch. Doing so ignores their quantifiably useful relationships leading to a massive labeled data requirement.

在没有明确使用这些关系的情况下，计算机视觉领域确实走得很远。通过开发先进的学习机器（例如ConvNets），我们已经取得了令人瞩目的进步，能够将复杂映射从X变为Y，当多对
image

s.t.
image
作为训练数据给出。这通常被称为完全监督学习，通常会导致孤立地解决问题。筒仓任务使得训练成为一项新任务或综合感知系统成为Sisyphean挑战，因此每项任务都需要从头开始单独学习。这样做会忽略它们的量化的有用关系，从而导致大量标注的数据需求。

Alternatively, a model aware of the relationships among tasks demands less supervision, uses less computation, and behaves in more predictable ways. Incorporating such a structure is the first stepping stone towards develop ing provably efficient comprehensive/universal perception models [34, 4], i.e. ones that can solve a large set of tasks before becoming intractable in supervision or computation demands. However, this task space structure and its effects are still largely unknown. The relationships are non-trivial, and finding them is complicated by the fact that we have imperfect learning models and optimizers. In this paper, we attempt to shed light on this underlying structure and present a framework for mapping the space of visual tasks. Here what we mean by “structure” is a collection of computationally found relations specifying which tasks supply useful information to another, and by how much (see Fig. 1). We employ a fully computational approach for this purpose, with neural networks as the adopted computational function class. In a feedforward network, each layer successively forms more abstract representations of the input containing the information needed for mapping the input to the output. These representations, however, can transmit statistics useful for solving other outputs (tasks), presumably if the tasks are related in some form [83, 19, 58, 46]. This is the basis of our approach: we computes an affinity matrix among tasks based on whether the solution for one task can be sufficiently easily read out of the representation trained for another task. Such transfers are exhaustively sampled, and a Binary Integer Programming formulation extracts a globally efficient transfer policy from them. We show this model leads to solving tasks with far less data than learning them independently and the resulting structure holds on common datasets (ImageNet [78] and Places [104]).

另外，知道任务之间关系的模型需要更少的监督，使用更少的计算，并以更可预测的方式运行。结合这样的结构是开发可证明有效的综合/通用感知模型的第一个垫脚石[34,4]，即在监督或计算需求变得棘手之前可以解决大量任务的那些模型[34,4]。然而，这个任务空间结构及其影响仍然大部分未知。这些关系是非平凡的，发现它们很复杂，因为我们有不完善的学习模型和优化器。在本文中，我们试图揭示这个底层结构，并提出一个映射视觉任务空间的框架。这里我们所说的“结构”是指计算找到的关系集合，指定哪些任务向另一个任务提供有用的信息，以及提供多少（见图1）。我们采用完全计算的方法来实现这一目的，神经网络作为采用的计算功能类。在前馈网络中，每个层次都连续形成包含将输入映射到输出所需信息的输入的更多抽象表示。然而，这些表述可以传输对解决其他输出（任务）有用的统计数据，假设这些任务是以某种形式相关的[83,19,58,46]。这是我们方法的基础：我们根据一项任务的解决方案是否可以充分轻松地从为另一项任务而训练的表示中读出来计算任务之间的亲和度矩阵。这种转移是抽象的，二进制整数规划公式从中提取全球有效的转移策略。我们展示这个模型导致解决任务的数据远远少于独立学习它们的结果，并且所得到的结构在普通数据集上保留（ImageNet [78]和Places [104]）。

Being fully computational and representation-based, the proposed approach avoids imposing prior (possibly incorrect) assumptions on the task space. This is crucial because the priors about task relations are often derived from either human intuition or analytical knowledge, while neural networks need not operate on the same principles [63, 33, 40, 45, 102, 88]. For instance, although we might expect depth to transfer to surface normals better (derivatives are easy), the opposite is found to be the better direction in a computational framework (i.e. suited neural networks better).

所提出的方法完全基于计算和表示为基础，避免了在任务空间上施加先验（可能是错误的）假设。这是至关重要的，因为关于任务关系的先验往往源于人的直觉或分析知识，而神经网络不需要按照相同的原则运作[63,33,40,45,102,88]。例如，虽然我们可以预期深度能够更好地转移到曲面法线（衍生物很容易），但发现相反是计算框架中更好的方向（即更好地适应神经网络）。

An interactive taxonomy solver which uses our model to suggest data-efficient curricula, a live demo, dataset, and code are available at http://taskonomy.vision/.

http://taskonomy.vision/提供了一个使用我们的模型来建议数据有效课程，现场演示，数据集和代码的交互式分类解析器。

2. Related Work

2.相关工作

Assertions of existence of a structure among tasks date back to the early years of modern computer science, e.g. with Turing arguing for using learning elements [95, 98] rather than the final outcome or Jean Piaget’s works on developmental stages using previously learned stages as sources [74, 39, 38], and have extended to recent works [76, 73, 50, 18, 97, 61, 11, 66]. Here we make an attempt to actually find this structure. We acknowledge that this is related to a breadth of topics, e.g. compositional modeling [35, 10, 13, 23, 55, 92, 90], homomorphic cryptography [42], lifelong learning [93, 15, 85, 84], functional maps [71], certain aspects of Bayesian inference and Dirichlet processes [54, 91, 90, 89, 37, 39], few-shot learning [81, 25, 24, 70, 86], transfer learning [75, 84, 29, 64, 67, 59], un/semi/selfsupervised learning [22, 8, 17, 103, 19, 83], which are studied across various fields [73, 94, 12]. We review the topics most pertinent to vision within the constraints of space: Self-supervised learning methods leverage the inherent relationships between tasks to learn a desired expensive one (e.g. object detection) via a cheap surrogate (e.g. colorization) [68, 72, 17, 103, 100, 69]. Specifically, they use a manually-entered local part of the structure in the task space (as the surrogate task is manually defined). In contrast, our approach models this large space of tasks in a computational manner and can discover obscure relationships.

在任务中存在结构的断言可追溯到现代计算机科学的早期年代，例如，图灵主张使用学习元素[95,98]而不是最终结果或让皮亚杰在发育阶段使用以前学过的阶段作为来源的作品[74，39，38]，并延伸到最近的作品[76,73,50 ，18，97，61，11，66]。这里我们试图找到这个结构。我们承认这与广泛的主题有关，例如组合建模[35,10,13,23,55,92,90]，同态密码学[42]，终身学习[93,15,85,84]，功能图[71]，贝叶斯推理和狄利克雷过程的某些方面[54，91，90，89，37，39]，少数学习[81,25,24,70,86]，转移学习[75,84,29,64,67,59]，非/半/自我监督学习[22,8,17,103,19,83]，它们在各个领域进行了研究[73,94,12]。我们在空间约束下回顾与视觉最相关的主题：自我监督学习方法利用任务之间固有的关系，通过廉价代理（例如着色）学习所需的昂贵代码（例如对象检测）[68,72,17 ，103,100,69]。具体而言，它们在任务空间中使用结构的手动输入局部部分（因为代理任务是手动定义的）。相比之下，我们的方法以计算方式模拟这个庞大的任务空间，并且可以发现模糊的关系。

Unsupervised learning is concerned with the redundancies in the input domain and leveraging them for forming compact representations, which are usually agnostic to the downstream task [8, 49, 20, 9, 32, 77]. Our approach is not unsupervised by definition as it is not agnostic to the tasks. Instead, it models the space tasks belong to and in a way utilizes the functional redundancies among tasks.

无监督学习关注输入领域的冗余，并利用它们形成紧凑的表示形式，这通常对下游任务是不可知的[8,49,20,9,32,77]。我们的方法并非由定义无监督，因为它不是不可知的任务。相反，它模拟任务所属的空间任务，并以某种方式利用任务间的功能冗余。

Meta-learning generally seeks performing the learning at a level higher than where conventional learning occurs, e.g. as employed in reinforcement learning [21, 31, 28], optimization [2, 82, 48], or certain architectural mechanisms [27, 30, 87, 65]. The motivation behind meta learning has similarities to ours and our outcome can be seen as a computational meta-structure of the space of tasks.

元学习通常寻求在比传统学习更高的层次上进行学习，例如，如强化学习[21,31,28]，优化[2,82,48]或某些架构机制[27,30,87,65]中所采用的。元学习背后的动机与我们相似，我们的结果可以被看作是任务空间的计算元结构。

Multi-task learning targets developing systems that can provide multiple outputs for an input in one run [50, 18]. Multi-task learning has experienced recent progress and the reported advantages are another support for existence of a useful structure among tasks [93, 100, 50, 76, 73, 50, 18, 97, 61, 11, 66]. Unlike multi-task learning, we explicitly model the relations among tasks and extract a meta-structure. The large number of tasks we consider also makes developing one multi-task network for all infeasible.

多任务学习目标开发系统，可以在一次运行中为输入提供多个输出[50,18]。多任务学习经历了最近的进展，并且所报道的优势是在任务之间存在有用结构的另一个支持[93,100,50,76,73,50,18,97,61,11,66]。与多任务学习不同，我们明确地建模任务之间的关系并提取元结构。我们考虑的大量任务也使得为所有不可行的开发一个多任务网络。

Domain adaption seeks to render a function that is developed on a certain domain applicable to another [44, 99, 5, 80, 52, 26, 36]. It often addresses a shift in the input domain, e.g. webcam images to D-SLR [47], while the task is kept the same. In contrast, our framework is concerned with output (task) space, hence can be viewed as task/output adaptation. We also perform the adaptation in a larger space among many elements, rather than two or a few.

域自适应试图呈现一个在某个域上开发的函数，该函数适用于另一个[44,99,5,80,52,26,36]。它经常处理输入域的变化，例如摄像头图像到D-SLR [47]，而任务保持不变。相比之下，我们的框架关注输出（任务）空间，因此可以视为任务/输出适配。我们也在很多元素的较大空间中执行适应，而不是两个或几个。

In the context of our approach to modeling transfer learning across tasks: Learning Theoretic approaches may overlap with any of the above topics and usually focus on providing generalization guarantees. They vary in their approach: e.g. by modeling transferability with the transfer family required to map a hypothesis for one task onto a hypothesis for another [7], through information-based approaches [60], or through modeling inductive bias [6]. For these guarantees, learning theoretic approaches usually rely on intractable computations, or avoid such computations by restricting the model or task. Our method draws inspiration from theoretical approaches but eschews (for now) theoretical guarantees in order to use modern neural machinery.

在我们的跨越任务的转移学习建模方法的背景下：学习理论方法可能会与上述任何主题重叠，并且通常侧重于提供泛化保证。它们的方法各不相同：例如通过建模转移家族的可转移性，以将一项任务的假设映射到另一项假设上[7]，通过基于信息的方法[60]或通过建模归纳偏置[6]。对于这些保证，学习理论方法通常依赖于难处理的计算，或者通过限制模型或任务来避免这种计算。我们的方法从理论方法中汲取灵感，但是为了使用现代神经机器而避开（现在）理论保证。

image

Figure 2: Computational modeling of task relations and creating the taxonomy. From left to right: I. Train task-specific networks. II. Train (first order and higher) transfer functions among tasks in a latent space. III. Get normalized transfer affinities using AHP (Analytic Hierarchy Process). IV. Find global transfer taxonomy using BIP (Binary Integer Program).

图2：任务关系的计算建模和创建分类。从左到右：I.训练任务特定的网络。 II。在一个潜在空间中训练（一阶或更高阶段）的任务。 III。使用层次分析法（层次分析法）获得标准化的转移支付。 IV。使用BIP（二进制整数程序）查找全局转移分类。

3. Method

3.方法

We define the problem as follows: we want to maximize the collective performance on a set of tasks
image

image
, subject to the constraint that we have a limited supervision budget γ (due to financial, computational, or time constraints). We define our supervision budget γ to be the maximum allowable number of tasks that we are willing to train from scratch (i.e. source tasks). The task dictionary is defined as V=
image
where T is the set of tasks which we want solved (target), and S is the set of tasks that can be trained (source). Therefore,
image

are the tasks that we want solved but cannot train (“target-only”),
image
are the tasks that we want solved but could play as source too, and
image
are the “source-only” tasks which we may not directly care about to solve (e.g. jigsaw puzzle) but can be optionally used if they increase the performance on T. The task taxonomy (taskonomy) is a computationally found directed hypergraph that captures the notion of task transferability over any given task dictionary. An edge between a group of source tasks and a target task represents a feasible transfer case and its weight is the prediction of its performance. We use these edges to estimate the globally optimal transfer policy to solve T. Taxonomy produces a family of such graphs, parameterized by the available supervision budget, chosen tasks, transfer orders, and transfer functions’ expressiveness.

我们将问题定义如下：我们希望在一组任务
image

image
中最大化集体绩效，受制于我们有限的监督预算γ（由于财务，计算或时间限制）。我们将我们的监督预算γ定义为我们愿意从头开始训练的最大可允许任务数量（即源任务）。任务字典定义为V =
image
，其中T是我们想要解决的任务集合（目标），S是可以训练的任务集合（源）。因此，
image

是我们想要解决但无法训练的任务（“仅限目标”），
image
是我们想要解决但可以作为源的任务，
image
是我们可能不需要的“源代码”任务直接关心解决问题（例如拼图游戏），但可以选择使用，如果它们提高了T上的性能。任务分类法（任务分类法）是一种计算发现的定向超图，它捕获任何给定任务字典上任务可转移性的概念。一组源任务和一个目标任务之间的边代表一个可行的分配案例，其权重是其性能的预测。我们使用这些边缘来估计全局最优传输策略来解决T.分类学生成了一系列这样的图表，由可用的监督预算，选择的任务，转移顺序和转移函数的表达参数化。

Taxonomy is built using a four step process depicted in Fig. 2. In stage I, a task-specific network for each task in S is trained. In stage II, all feasible transfers between sources and targets are trained. We include higher-order transfers which use multiple inputs task to transfer to one target. In stage III, the task affinities acquired from transfer function performances are normalized, and in stage IV, we synthesize a hypergraph which can predict the performance of any transfer policy and optimize for the optimal one.

分类标准是使用图2所示的四步过程构建的。在第一阶段，针对S中每个任务的任务特定网络进行训练。在第二阶段，培训来源和目标之间的所有可行转移。我们包括使用多个输入任务转移到一个目标的高阶转移。在阶段III中，从传递函数性能获得的任务亲和度被归一化，并且在阶段IV中，我们合成超图，其可以预测任何传递策略的性能并优化为最优。

image

Figure 3: Task Dictionary. Outputs of 24 (of 26) task-specific networks for a query (top left). See results of applying frame-wise on a video here.

图3：任务词典。查询的24个（26个）任务特定网络的输出（左上）。在这里查看在视频中应用帧结果的结果。

A vision task is an abstraction read from a raw image. We denote a task t more formally as a function
image

which maps image I to
image
. Our dataset, D, contains for each task t a set of training pairs
image
, e.g.
image

.

视觉任务是从原始图像读取的抽象。我们更正式地将任务t表示为映射I到
image

的函数
image
。我们的数据集D为每个任务t包含一组训练对
image
，例如，
image

。

image

Figure 4: Transfer Function. A small readout function is trained to map representations of source task’s frozen encoder to target task’s labels. If order> 1, transfer function receives representations from multiple sources.

图4：传递函数。训练一个小读数函数，将源任务的冻结编码器的表示映射到目标任务的标签。如果订单> 1，传递函数接收来自多个来源的表示。

Task Dictionary: Our mapping of task space is done via (26) tasks included in the dictionary, so we ensure they cover common themes in computer vision (2D, 3D, semantics, etc) to the elucidate fine-grained structures of task space. See Fig. 3 for some of the tasks with detailed definition of each task provided in the supplementary material. We include tasks with various levels of abstraction, ranging from solvable by a simple kernel convolved over the image (e.g. edge detection) to tasks requiring basic understanding of scene geometry (e.g. vanishing points) and more abstract ones involving semantics (e.g. scene classification).

任务词典：我们通过字典中包含的任务完成任务空间的映射，因此我们确保它们涵盖计算机视觉（2D，3D，语义等）中的常见主题，以阐明任务空间的细化结构。有关详细定义补充材料中提供的每项任务的一些任务，请参见图3。我们包括具有各种抽象级别的任务，从对图像（例如边缘检测）进行卷积的简单内核可解算到需要对场景几何（例如消失点）有基本理解的任务和涉及语义（例如场景分类）的更抽象的任务。

It is critical to note the task dictionary is meant to be a sampled set, not an exhaustive list, from a denser space of all conceivable visual tasks/abstractions. Sampling gives us a tractable way to sparsely model a dense space, and the hypothesis is that (subject to a proper sampling) the derived model should generalize to out-of-dictionary tasks. The more regular / better sampled the space, the better the generalization. We evaluate this in Sec. 4.2 with supportive results. For evaluation of the robustness of results w.r.t the choice of dictionary, see the supplementary material.

需要注意的是，任务词典应该是所有可以想象的视觉任务/抽象的密集空间中的抽样集，而不是详尽的列表。抽样为我们提供了一种容易的方法来稀疏地模拟密集空间，并且假设（受适当抽样），派生模型应推广到超字典任务。空间越规则/越好，泛化越好。我们在第二部分对此进行评估。 4.2有支持的结果。为了评估结果的稳健性，字典的选择，请参阅补充材料。

Dataset: We need a dataset that has annotations for every task on every image. Training all of our tasks on exactly the same pixels eliminates the possibility that the observed transferabilities are affected by different input data peculiarities rather than only task intrinsics. There has not been such a dataset of scale made of real images, so we created a dataset of 4 million images of indoor scenes from about 600 buildings; every image has an annotation for every task. The images are registered on and aligned with buildingwide meshes similar to [3, 101, 14] enabling us to programmatically compute the ground truth for many tasks without human labeling. For the tasks that still require labels (e.g. scene classes), we generate them using Knowledge Distillation [43] from known methods [104, 57, 56, 78]. See the supplementary material for full details of the process and a user study on the final quality of labels generated using Knowledge Distillation (showing < 7% error).

数据集：我们需要一个数据集，每个图像上的每个任务都有注释。在完全相同的像素上训练我们所有的任务消除了观察到的可转换性受到不同输入数据特性影响的可能性，而不仅仅是任务内在因素。目前还没有这样的真实图像尺度数据集，因此我们创建了一个来自约600座建筑物的400万幅室内场景图像数据集;每个图像都有对每个任务的注释。这些图像在类似于[3,101,14]的建筑物网格上进行注册和对齐，使我们能够以编程方式计算许多任务的地面实况，而无需人工标注。对于仍然需要标签的任务（例如场景类），我们使用已知方法[104,57,56,78]的知识蒸馏[43]来生成它们。请参阅补充材料了解过程的全部细节，以及使用Knowledge Distillation生成的标签的最终质量的用户研究（显示误差<7％）。

3.1. Step I: Task-Specific Modeling

3.1。第一步：任务特定建模

We train a fully supervised task-specific network for each task in S. Task-specific networks have an encoderdecoder architecture homogeneous across all tasks, where the encoder is large enough to extract powerful representations, and the decoder is large enough to achieve a good performance but is much smaller than the encoder.

我们为S中的每个任务训练完全监督的任务特定网络。任务特定的网络在所有任务中具有均匀的编码器解码器架构，其中编码器足够大以提取强大的表示，并且解码器足够大以实现良好的性能，但比编码器小得多。

image

Figure 5: Transfer results to normals (upper) and 2.5D Segmentation (lower) from 5 different source tasks. The spread in transferability among different sources is apparent, with reshading among top-performing ones in this case. Task-specific networks were trained on 60x more data. “Scratch” was trained from scratch without transfer learning.

图5：从5个不同的源任务将结果传输到法线（上）和2.5D分割（下）。不同来源之间可转移性的差异是显而易见的，在这种情况下，重新转化为表现最佳的之一。任务特定的网络在60倍以上的数据上进行了培训。 “划痕”是从零开始训练的，没有转移学习。

3.2. Step II: Transfer Modeling

3.2。第二步：传输建模

Given a source task s and a target task t, where
image

and
image
, a transfer network learns a small readout function for t given a statistic computed for s (see Fig 4). The statistic is the representation for image I from the encoder of s:
image
. The readout function (
image

) is parameterized by
image
minimizing the loss
image
:

给定一个源任务和一个目标任务t，其中
image

和
image
，一个传输网络学习一个小的读出函数，给定一个为s计算的统计量（见图4）。统计量是来自s：
image
编码器的图像I的表示。读出功能（
image

）由
image
参数化，最大限度地减少
image
的损耗：
image

where
image

is ground truth of t for image I.
image
may or may not be sufficient for solving t depending on the relation between t and s (examples in Fig. 5). Thus, the performance of
image
is a useful metric as task affinity. We train transfer functions for all feasible source-target combinations.
image

是图像I的t的基本事实。根据t和s之间的关系，
image

可能足够也可能不足以解决t（图5中的例子）。因此，
image
的性能是一项非常有用的衡量指标。我们训练所有可行的源 - 目标组合的传递函数。

Accessibility: For a transfer to be successful, the latent representation of the source should both be inclusive of sufficient information for solving the target and have the information accessible, i.e. easily extractable (otherwise, the raw image or its compression based representations would be optimal). Thus, it is crucial for us to adopt a low-capacity (small) architecture as transfer function trained with a small amount of data, in order to measure transferability conditioned on being highly accessible. We use a shallow fully convolutional network and train it with little data (8x to 120x less than task-specific networks).

可访问性：为了成功转移，源的潜在表示应该包含用于解决目标的足够信息，并且具有可访问的信息，即易于提取（否则，原始图像或其基于压缩的表示将是最优的） 。因此，对于我们来说，采用低容量（小型）体系结构作为用少量数据进行培训的传递函数是非常重要的，以测量可高度访问的可转移性。我们使用一个浅层完全卷积网络，并用很少的数据训练它（比任务特定的网络少8倍到120倍）。

Higher-Order Transfers: Multiple source tasks can contain complementary information for solving a target task (see examples in Fig 6). We include higher-order transfers which are the same as first order but receive multiple representations in the input. Thus, our transfers are functions
image

, where ℘ is the powerset operator.

高阶传输：多源任务可以包含补充信息以解决目标任务（请参见图6中的示例）。我们包含与第一阶相同的高阶传输，但在输入中接收多个表示。因此，我们的转账功能是
image

，其中℘是权力机构运营商。

As there is a combinatorial explosion in the number of feasible higher-order transfers (
image

for
image
order), we employ a sampling procedure with the goal of filtering out higher-order transfers that are less likely to yield good results, without training them. We use a beam search: for transfers of order
image
to a target, we select its 5 best sources (according to
image

order performances) and include all of their order-k combination. For
image
, we use a beam of size 1 and compute the transfer from the top k sources. Transitive Transfers: We examined if transitive task transfers (s → t1 → t2) could improve the performance over their direct counterpart (
image
), but found that the two had equal performance in almost all cases in both highdata and low-data scenarios. The experiment is provided in the supplementary material. Therefore, we need not consider the cases where branching would be more than one level deep when searching for the optimal transfer path.

由于可行的高阶转移数量（
image

为
image
阶次）存在组合式爆炸，因此我们采用抽样程序，目标是筛选出不太可能产生良好结果的高阶转移，而无需对其进行培训。我们使用波束搜索：为了将
image
命令传输到目标，我们选择其5个最佳源（根据
image

命令性能）并包括它们的所有顺序-k组合。对于
image
，我们使用大小为1的光束并计算来自顶部k个光源的传输。传递性传递：我们研究了传递性任务传递（s→t1→t2）是否可以改善其直接对应性（
image
）的性能，但发现在高数据和低数据情况下，两者在几乎所有情况下都具有相同的性能。实验在补充材料中提供。因此，我们无需考虑在寻找最佳传输路径时分支深度超过一级的情况。
image

Figure 6: Higher-Order Transfers. Representations can contain complementary information. E.g. by transferring simultaneously from 3D Edges and Curvature individual stairs were brought out. See our publicly available interactive transfer visualization page for more examples.

图6：高阶传输。陈述可以包含补充信息。例如。通过从3D边缘和曲率同时转移个别楼梯被带出。有关更多示例，请参阅我们公开的交互式传输可视化页

3.3. Step III: Ordinal Normalization using Analytic Hierarchy Process (AHP)

3.3。第三步：使用层次分析法（AHP）进行序数标准化

We want to have an affinity matrix of transferabilities across tasks. Aggregating the raw losses/evaluations
image

from transfer functions into a matrix is obviously problematic as they have vastly different scales and live in different spaces (see Fig. 7-left). Hence, a proper normalization is needed. A naive solution would be to linearly rescale each row of the matrix to the range
image
. This approach fails when the actual output quality increases at different speeds w.r.t. the loss. As the loss-quality curve is generally unknown, such approaches to normalization are ineffective. Instead, we use an ordinal approach in which the output quality and loss are only assumed to change monotonically. For each t, we construct
image
a pairwise tournament matrix between all feasible sources for transferring to t. The element at
image

is the percentage of images in a held-out test set,
image
, on which
image
transfered to t better than
image
did (i.e.
image
).

我们希望在任务间有一个可传递的友好矩阵。将原始损失/评估
image

从传递函数集中到矩阵中显然是有问题的，因为它们具有完全不同的尺度并且生活在不同的空间中（参见图7左侧）。因此，需要适当的标准化。一种天真的解决方案是将矩阵的每一行线性重新缩放到
image
范围内。当实际输出质量以不同的速度增加时，这种方法失败w.r.t.亏损。由于损失质量曲线一般是未知的，所以这种正常化的方法是无效的。相反，我们使用一种序数方法，其中输出质量和损失只被假设为单调变化。对于每个t，我们构造
image
成为所有可行源之间的成对比赛矩阵，以转移到t。
image

中的元素是
image
中保留测试集中映像的百分比，
image
转换为比
image
更好的映像（即
image
）。

We clip this intermediate pairwise matrix
image

to be in
image
as a form of Laplace smoothing. Then we divide
image
so that the matrix shows how many times better
image

is compared to
image
. The final tournament ratio matrix is positive reciprocal with each element
image
of
image
:

我们将这个中间成对矩阵
image

作为拉普拉斯平滑的一种形式嵌入到
image
中。然后我们划分
image
，以便矩阵显示
image

与
image
相比的好几倍。最终的锦标赛比率矩阵是正互惠的，
image
的
image
的每个元素都是正数：
image

We quantify the final transferability of
image

to t as the cor responding (
image
) component of the principal eigenvector of
image
(normalized to sum to 1). The elements of the principal eigenvector are a measure of centrality, and are proportional to the amount of time that an infinite-length random walk on
image

will spend at any given source [62]. We stack the principal eigenvectors of
image
for all
image
, to get an affinity matrix P (‘p’ for performance)—see Fig. 7, right.

我们将
image

的最终转移量定量为
image
的主要特征向量（归一化为总和为1）的相应（
image
）分量。主特征向量的元素是中心性的度量，并且与
image

上无限长随机游走将在任何给定源消耗的时间量成比例[62]。我们将所有
image
的
image
的主要特征向量堆叠起来，得到一个亲和矩阵P（'p'用于表现） - 见图7，右边。
image

Figure 7: First-order task affinity matrix before (left) and after (right) Analytic Hierarchy Process (AHP) normalization. Lower means better transfered. For visualization, we use standard affinity-distance method dist
image

(where
image
and e is element-wise matrix exponential). See supplementary material for the full matrix with higher-order transfers.

图7：层次分析过程（AHP）规范化之前（左）和之后（右）的一阶任务亲和度矩阵。越低意味着转移越好。对于可视化，我们使用标准亲和度 - 距离法dist
image

（其中
image
和e是元素明智的矩阵指数）。请参阅更高阶传输的完整矩阵的补充材料。

This approach is derived from Analytic Hierarchy Process [79], a method widely used in operations research to create a total order based on multiple pairwise comparisons.

这种方法来源于层次分析法[79]，这是一种在运筹学中广泛使用的方法，用于基于多对比较来创建总体订单。

3.4. Step IV: Computing the Global Taxonomy

3.4。第四步：计算全球分类

Given the normalized task affinity matrix, we need to devise a global transfer policy which maximizes collective performance across all tasks, while minimizing the used supervision. This problem can be formulated as subgraph selection where tasks are nodes and transfers are edges. The optimal subgraph picks the ideal source nodes and the best edges from these sources to targets while satisfying that the number of source nodes does not exceed the supervision budget. We solve this subgraph selection problem using Boolean Integer Programming (BIP), described below, which can be solved optimally and efficiently [41, 16].

鉴于规范化的任务亲和力矩阵，我们需要制定全球转移政策，以最大限度地提高所有任务的集体绩效，同时尽量减少所用的监督。这个问题可以表示为子图选择，其中任务是节点，传输是边。最佳子图选择理想源节点和从这些源到目标的最佳边缘，同时满足源节点数量不超过监督预算。我们使用下面描述的布尔整数规划（BIP）来解决这个子图选择问题，它可以被优化和有效地解决[41,16]。

Now we add three types of constraints via matrix A to enforce each feasible solution of the BIP instance corresponds to a valid subgraph for our transfer learning problem: Constraint I: if a transfer is included in the subgraph, all of its source nodes/tasks must be included too, Constraint II: each target task has exactly one transfer in, Constraint III: supervision budget is not exceeded.

现在我们通过矩阵A添加三种约束来强制BIP实例的每个可行解对应于我们的转移学习问题的有效子图：约束I：如果转移包含在子图中，则其所有源节点/任务必须也包括在内，约束二：每个目标任务恰好有一个转移进来，约束三：监督预算不超过。

Constraint I: For each row
image

in A we require ai · x ≤ bi, where
image
sources
image
if
image

image
if
image
sources
image
(4)
image
otherwise

约束I：对于A中的每一行
image

，我们都需要ai·x≤bi，其中
image
源
image
image

image
image
源
image
（4）
image
image

Constraint II: Via the row
image

, we enforce that each target has exactly one transfer:
image
target
image
(6)

约束II：通过行
image

，我们强制每个目标只有一个传输：
image
目标
image
（6）

Constraint III: the solution is enforced to not exceed the budget. Each transfer i is assigned a label cost
image

, so
image
(7)

约束III：解决方案被强制执行，不超过预算。
image

（7）每次转让都分配了标签费用
image
，

The elements of A not defined above are set to 0. The problem is now a valid BIP and can be optimally solved in a fraction of a second [41]. The BIP solution
image

corresponds to the optimal subgraph, which is our taxonomy.

上面没有定义的A的元素被设置为0.现在问题是一个有效的BIP，并且可以在几分之一秒内被最优解决[41]。BIP解决方案
image

对应于最佳子图，这是我们的分类。

文章引用于 http://tongtianta.site/paper/1750
编辑 Lornatang
校准 Lornatang

你可能感兴趣的:(Taskonomy: Disentangling Task Transfer Learning翻译[下])

  • 关于沟通这件事，项目经理不需要每次都面对面进行 流程大师兄
    很多项目经理都会遇到这样的问题，项目中由于事情太多，根本没有足够的时间去召开会议，那在这种情况下如何去有效地管理项目中的利益相关者？当然，不建议电子邮件也不需要开会的话，建议可以采取下面几种方式来形成有效的沟通，这几种方式可以帮助你努力的通过各种办法来保持和各方面的联系。项目经理首先要问自己几个问题，项目中哪些利益相关者是必须要进行沟通的？可以列出项目中所有的利益相关者清单，同时也整理出项目中哪些
  • 机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习python
    一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
  • 2020-01-25 晴岚85
    郑海燕坚持分享590天2020.1.24在生活中只存在两个问题。一个问题是：你知道想要达成的目标是什么，但却不知道如何才能达成；另一个问题是：你不知道你的目标是什么。前一个是行动的问题，后一个是结果的问题。通过制定具体的下一步行动，可以解决不知道如何开始行动的问题。而通过去想象结果，对结果做预估，可以解决找不着目标的问题。对于所有吸引我们注意力，想要完成的任务，你可以先想象一下，预期的结果究竟是什
  • OC语言多界面传值五大方式 Magnetic_h iosui学习objective-c开发语言
    前言在完成暑假仿写项目时，遇到了许多需要用到多界面传值的地方，这篇博客来总结一下比较常用的五种多界面传值的方式。属性传值属性传值一般用前一个界面向后一个界面传值，简单地说就是通过访问后一个视图控制器的属性来为它赋值，通过这个属性来做到从前一个界面向后一个界面传值。首先在后一个界面中定义属性@interfaceBViewController:UIViewController@propertyNSSt
  • 微服务下功能权限与数据权限的设计与实现 nbsaas-boot 微服务java架构
    在微服务架构下，系统的功能权限和数据权限控制显得尤为重要。随着系统规模的扩大和微服务数量的增加，如何保证不同用户和服务之间的访问权限准确、细粒度地控制，成为设计安全策略的关键。本文将讨论如何在微服务体系中设计和实现功能权限与数据权限控制。1.功能权限与数据权限的定义功能权限：指用户或系统角色对特定功能的访问权限。通常是某个用户角色能否执行某个操作，比如查看订单、创建订单、修改用户资料等。数据权限：
  • swagger访问路径 igotyback swagger
    Swagger2.x版本访问地址：http://{ip}:{port}/{context-path}/swagger-ui.html{ip}是你的服务器IP地址。{port}是你的应用服务端口，通常为8080。{context-path}是你的应用上下文路径，如果应用部署在根路径下，则为空。Swagger3.x版本对于Swagger3.x版本（也称为OpenAPI3）访问地址：http://{ip
  • 如何在 Fork 的 GitHub 项目中保留自己的修改并同步上游更新？github_fork_update iBaoxing github
    如何在Fork的GitHub项目中保留自己的修改并同步上游更新？在GitHub上Fork了一个项目后，你可能会对项目进行一些修改，同时原作者也在不断更新。如果想要在保留自己修改的基础上，同步原作者的最新更新，很多人会不知所措。本文将详细讲解如何在不丢失自己改动的情况下，将上游仓库的更新合并到自己的仓库中。问题描述假设你在GitHub上Fork了一个项目，并基于该项目做了一些修改，随后你发现原作者对
  • Linux下QT开发的动态库界面弹出操作（SDL2） 13jjyao QT类qt开发语言sdl2linux
    需求：操作系统为linux，开发框架为qt，做成需带界面的qt动态库，调用方为java等非qt程序难点：调用方为java等非qt程序，也就是说调用方肯定不带QApplication::exec()，缺少了这个，QTimer等事件和QT创建的窗口将不能弹出(包括opencv也是不能弹出)；这与qt调用本身qt库是有本质的区别的思路：1.调用方缺QApplication::exec()，那么我们在接口
  • 店群合一模式下的社区团购新发展——结合链动 2+1 模式、AI 智能名片与 S2B2C 商城小程序源码 说私域 人工智能小程序
    摘要：本文探讨了店群合一的社区团购平台在当今商业环境中的重要性和优势。通过分析店群合一模式如何将互联网社群与线下终端紧密结合，阐述了链动2+1模式、AI智能名片和S2B2C商城小程序源码在这一模式中的应用价值。这些创新元素的结合为社区团购带来了新的机遇，提升了用户信任感、拓展了营销渠道，并实现了线上线下的完美融合。一、引言随着互联网技术的不断发展，社区团购作为一种新兴的商业模式，在满足消费者日常需
  • 《庄子.达生9》 钱江潮369
    【原文】孔子观于吕梁，县水三十仞，流沫四十里，鼋鼍鱼鳖之所不能游也。见一丈夫游之，以为有苦而欲死也，使弟子并流而拯之。数百步而出，被发行歌而游于塘下。孔子从而问焉，曰：“吾以子为鬼，察子则人也。请问，‘蹈水有道乎’”曰：“亡，吾无道。吾始乎故，长乎性，成乎命。与齐俱入，与汩偕出，从水之道而不为私焉。此吾所以蹈之也。”孔子曰：“何谓始乎故，长乎性，成乎命？”曰：“吾生于陵而安于陵，故也；长于水而安于
  • linux sdl windows.h,Windows下的SDL安装 奔跑吧linux内核 linuxsdlwindows.h
    首先你要下载并安装SDL开发包。如果装在C盘下，路径为C:\SDL1.2.5如果在WINDOWS下。你可以按以下步骤：1.打开VC++，点击"Tools",Options2,点击directories选项3.选择"Includefiles"增加一个新的路径。"C:\SDL1.2.5\include"4，现在选择"Libaryfiles“增加"C:\SDL1.2.5\lib"现在你可以开始编写你的第
  • 从鸡肉高汤到记忆的魔法再到有效提示的艺术 步子哥 人工智能
    还记得小时候那些天马行空的白日梦吗？也许只要按下键盘上的某个神奇组合，电脑就会发出滴滴的声响，一个隐藏的世界突然在你眼前展开，让你获得超凡的能力，摆脱平凡的生活。这听起来像是玩过太多电子游戏的幻想，但实际上，间隔重复系统给人的感觉惊人地相似。在最佳状态下，这些系统就像魔法一样神奇。本文将以一个看似平凡的鸡肉高汤食谱为例，深入浅出地探讨如何编写有效的间隔重复提示，让你像掌握烹饪技巧一样轻松地掌握记忆
  • 今日囧事 唯愿岁月可回首
    今天晚上，房东打来电话说晚上过来取个东西。晚上到家后，洗了一下水果，把卧室的空调打开，在卧室的阳台叠衣服。不一会儿，听见了敲门声，老公和丫头出去开门，果然是房东来了。由于我在叠衣服，床上比较乱，老公随手就把卧室门带上了。我赶紧把衣服收在柜子里，一拧门，好吧，打不开。听见外面热热闹闹的，我喊老公帮我开门，开了几次都开不开。丫头说：妈妈，你先在里面休息一会，我们正在找钥匙。听见外面房东拿了自己东西，老
  • 今天我破防了 sin信仰
    今天本来是大年初一，新年的第一天，应该是高高兴兴的一天，但是我怎么也高兴不起来。具体原因很简单，原本计划年后去县城找了一份会计的工作，被公公婆婆否定了，我心里立马就不舒服了，但是当时刚好肚子疼，我去了厕所，等我上完厕所，公公由于喝了酒还在那里和婆婆唠叨个没完。然后我就在心情极度压抑的情况下把午饭吃完的碗筷和锅给刷了。边刷碗筷和锅，边在那里难受，感觉自己在这个家里真的是过的憋屈死了，公婆不让我去上班
  • 谁家酒器最绝唱，藏在酒厂人未知？景阳冈酒厂先秦藏品大揭秘 李虓酒评论
    文/王赛时中国的酒器酒具历史久远，举世闻名。从北京的故宫博物院、中国国家博物馆，到世界各国的大型博物馆，都以能够收藏中国古代酒具而夸耀。但很少有人知道，在山东阳谷景阳冈酒厂，默默地收藏了两千件中国酒器。这些酒器，就封藏在景阳冈的酒道馆里。其中有一些青铜酒器，一睡就是三、四千年，堪称无声国宝，堪作无字史书！今天，我将引领诸位首先窥视一下景阳冈酒道馆的9件先秦藏品，你自己来说震撼不震撼。提示：这只是景
  • 将cmd中命令输出保存为txt文本文件 落难Coder Windowscmdwindow
    最近深度学习本地的训练中我们常常要在命令行中运行自己的代码，无可厚非，我们有必要保存我们的炼丹结果，但是复制命令行输出到txt是非常麻烦的，其实Windows下的命令行为我们提供了相应的操作。其基本的调用格式就是：运行指令>输出到的文件名称或者具体保存路径测试下，我打开cmd并且ping一下百度：pingwww.baidu.com>./data.txt看下相同目录下data.txt的输出：如果你再
  • 郎朗大婚娶公主：所有光环的背后，都是十年如一日的自律 简小尘
    近日，关于郎朗大婚的新闻上了热搜，看了新娘的照片，既有天使般的面容，更有魔鬼般的身材，关键是人家还身世好，又有才华，这真的是让所有男人羡慕嫉妒恨哪。有些人不禁会想，“凭什么郎朗的人生就象开挂了一样，可我却每天都活得这么狼狈！”其实，每个开挂的人生背后，都是苦行僧般的自律。01欲戴王冠，必承其重。练琴不能只靠兴趣，更需要自律！我们先来看一下朗朗在小时候的作息时间表：早晨5:45起床，练琴1小时。中午
  • 直返最高等级与直返APP：无需邀请码的返利新体验 古楼
    随着互联网的普及和电商的兴起，直返模式逐渐成为一种流行的商业模式。在这种模式下，消费者通过购买产品或服务，获得一定的返利，并可以分享给更多的人。其中，直返最高等级和直返APP是直返模式中的重要概念和工具。本文将详细介绍直返最高等级的概念、直返APP的使用以及与邀请码的关系。【高省】APP（高佣金领导者）是一个自用省钱佣金高，分享推广赚钱多的平台，百度有几百万篇报道，运行三年，稳定可靠。高省APP，
  • 2020-04-12每天三百字之连接与替代 冷眼看潮
    不知道是不是好为人师，有时候还真想和别人分享一下我对某些现象的看法或者解释。人类社会不断发展进步的过程，就是不断连接与替代的过程。人类发现了火并应用火以后，告别了茹毛饮血的野兽般的原始生活（火烧、烹饪替代了生食）人类用石器代替了完全手工，工具的使用使人类进步一大步。类似这样的替代还有很多，随着科技的发展，有更多的原始的事物被替代，代之以更高效、更先进的技术。在近现代，汽车替代了马车，高速公路和铁路
  • 东南林氏之九牧林候选父系 祖缘树TheYtree
    渊源介绍东晋初年晋安林始祖林禄公入闽，传十世隋右丞林茂，由晋安迁居莆田北螺村。又五世而至林万宠，唐开元间任高平太守，生三子：韬、披、昌。韬公之孙攒，唐德宗立双阙以旌表其孝，时号"阙下林家"。昌公字茂吉，乃万宠公第三子，官兵部司马，配宋氏，生一子名萍。萍于唐贞元间明经及第，官沣洲司马(后追赠中宪大夫)。唐太和年间归隐后，迁居仙游游洋，世称“游洋林”；其后裔居游洋后迁移漳州漳浦路下，由路下林第四房平和
  • 【JS】执行时长(100分) |思路参考+代码解析（C++） l939035548 JS算法数据结构c++
    题目为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1秒内新增的任务个数且每秒都有新增任务。假设GPU最多一次执行n个任务，一次执行耗时1秒，在保证GPU不空闲情况下，最少需要多长时间执行完成。题目输入第一个参数为GPU一次最多执行的任务个数，取值范围[1,10000]第二个参数为任务数组长度，取值范围[1,10000]第三个参数为任务数组，数字范围
  • ARM中断处理过程 落汤老狗 嵌入式linux
    一、前言本文主要以ARM体系结构下的中断处理为例，讲述整个中断处理过程中的硬件行为和软件动作。具体整个处理过程分成三个步骤来描述：1、第二章描述了中断处理的准备过程2、第三章描述了当发生中的时候，ARM硬件的行为3、第四章描述了ARM的中断进入过程4、第五章描述了ARM的中断退出过程本文涉及的代码来自3.14内核。另外，本文注意描述ARM指令集的内容，有些sourcecode为了简短一些，删除了T
  • 梁文道《尽头:怎样是好的阅读和书写》 片段 白夜书摘
    1、写小说的人，有时会强烈地感到一种现实的召唤，想去面对和回应现实。这时他们会觉得自己正站在时代中心，就像黑格尔说的，要把时代精神掌握在自己的小说（不是哲学）里面。但是这也很危险，当一个作家像一个时代那样书写，可能就会出现问题了。2、文字是远比语言大块而且湿冷的木头，又距离我们内心的火花稍远，不容易瞬间点燃起来，这处隙缝，给了我们回身的余地，可以再多看一下想一下设身处地一下；人类过往这最后五千年，
  • 阶段总结反思 轻争
    马上就要进入10月份了，今天做一下前段时间的总结和反思。前段时间，日更、英语、健身、护肤坚持的比较好。阅读、书法坚持的不好。1.中间被迫停更半个多月，其余时间一直在坚持日更挑战。偶尔也有不想写的时候，就做一下摘抄。因为阅读（输入）没跟上来，所以写作（输出）质量有待进一步加强。2.英语做到了一周至少学习5天，每次不少于30分钟，但是小班课没有跟上更新速度，下一步要争取利用零碎时间补听小班课。3.减肥
  • 怎么做淘客赚钱(2022最新免费淘客盈利的方法) 高省_飞智666600
    很多人都不知道什么是淘宝客，今天小编为大家解答一下吧。淘宝客，现在简称淘客，是时下比较流行的一个词语，特质为淘宝店推广商品获取提成的人，这些人没有自己的产品，只是在淘宝里面选择适合自己的产品，在自己比较熟悉的领域推广，把产品卖出去之后，会从淘宝店家那里获得百分之五到百分之五十左右的佣金。淘宝客付出的是什么呢？时间。你需要花时间去选适合自己推广的产品，需要花时间去选自己的推广方法，如果你打算自己做个
  • 自我意识 徐立华
    ----读帕克.帕尔默《教学勇气》（P18----19）5.铸造我们的学科帕克.帕尔默说学科知识对我们的自身认同和外部世界有启发意义。学科会铸造我们。“在我们与学科的命题概念和学科的生活框架相遇之前，自我意识知识处于潜伏状态，通过回想学科是怎样唤醒自我意识，我们就可以找回教学心灵。”《教学勇气》（P18）我们的自我意识像冰山表面下无限延伸的冰层，常常处于潜伏状态。但是在我们对所教授的学科进行深入思
  • C++菜鸟教程 - 从入门到精通 第二节 DreamByte c++
    一.上节课的补充(数据类型)1.前言继上节课,我们主要讲解了输入,输出和运算符,我们现在来补充一下数据类型的知识上节课遗漏了这个知识点,非常的抱歉顺便说一下,博主要上高中了,更新会慢,2-4周更新一次对了,正好赶上中秋节,小编跟大家说一句:中秋节快乐!2.int类型上节课,我们其实只用了int类型int类型,是整数类型,它们存贮的是整数,不能存小数(浮点数)定义变量的方式很简单inta;//定义一
  • 似乎老是忘记什么东西 灰台
    S带上了耳机，眼前的一切都与她隔绝开来。虽是初春的好天气，花都开的正鲜艳，行人也都驻足欣赏，还有不少怀着好心情的年轻人在花树下打闹。不过S似乎并不在意这些，连耳机传来的rap也没有调动起她的兴致。一瞬间，心脏好像变成了黑洞，“啊，我身边还有几个人呢，似乎没有了吧”。阳光的温度覆盖到了脖子上，S抬头看了看开满花的树，“我妈好像还挺喜欢花的”，S随手拍了一张照片，微信发到自己一家三口的群里。过了一会，
  • 直返的东西正品吗?直返APP安全吗?直返是正规平台吗? 氧惠购物达人
    亲们，你们是不是经常在直返APP上买东西呀？但是，你们有没有想过，里面的东西到底是不是正品呢？这个APP安全吗？它是不是一个正规的平台呀？别着急，今天我就来给大家揭秘一下！氧惠APP（带货领导者）——是与以往完全不同的抖客+淘客app！2023全新模式，我的直推也会放到你下面。主打：带货高补贴，深受各位带货团队长喜爱（每天出单带货几十万单）。注册即可享受高补贴+0撸+捡漏等带货新体验。送万元推广大
  • 《在战“疫”中成长致敬生活》观后感 梅子刘的刀
    （作者：周晨）今天上午，我看了“我是接班人”网络大课堂《在战役中成长致敬生活》。有很多人拿出自己攒下的钱，默默地捐给了武汉，有几千块钱的、有几万块钱的，也有十几万块钱的。连小朋友也把自己的压岁钱捐给了武汉。有名环卫工人把自己五年的积蓄全部捐给了武汉。有名外卖小哥为医护人员买鞋子送吃的。还有已经治愈出院的新型肺炎病人捐了400毫升的血浆。还有位叫大树的叔叔，虽然他没有钱，但是他地里有蔬菜，捐了几大卡
  • xml解析 小猪猪08 xml
    1、DOM解析的步奏 准备工作：    1.创建DocumentBuilderFactory的对象    2.创建DocumentBuilder对象    3.通过DocumentBuilder对象的parse(String fileName)方法解析xml文件    4.通过Document的getElem
  • 每个开发人员都需要了解的一个SQL技巧 brotherlamp linuxlinux视频linux教程linux自学linux资料
      对于数据过滤而言CHECK约束已经算是相当不错了。然而它仍存在一些缺陷，比如说它们是应用到表上面的，但有的时候你可能希望指定一条约束，而它只在特定条件下才生效。 使用SQL标准的WITH CHECK OPTION子句就能完成这点，至少Oracle和SQL Server都实现了这个功能。下面是实现方式： CREATE TABLE books (   id &
  • Quartz——CronTrigger触发器 eksliang quartzCronTrigger
    转载请出自出处：http://eksliang.iteye.com/blog/2208295 一.概述 CronTrigger 能够提供比 SimpleTrigger 更有具体实际意义的调度方案，调度规则基于 Cron 表达式，CronTrigger 支持日历相关的重复时间间隔（比如每月第一个周一执行），而不是简单的周期时间间隔。 二.Cron表达式介绍 1）Cron表达式规则表 Quartz
  • Informatica基础 18289753290 InformaticaMonitormanagerworkflowDesigner
    1. 1）PowerCenter Designer：设计开发环境，定义源及目标数据结构；设计转换规则，生成ETL映射。 2）Workflow  Manager：合理地实现复杂的ETL工作流，基于时间，事件的作业调度 3）Workflow  Monitor：监控Workflow和Session运行情况，生成日志和报告 4）Repository  Manager：
  • linux下为程序创建启动和关闭的的sh文件，scrapyd为例 酷的飞上天空 scrapy
    对于一些未提供service管理的程序  每次启动和关闭都要加上全部路径，想到可以做一个简单的启动和关闭控制的文件   下面以scrapy启动server为例，文件名为run.sh：   #端口号，根据此端口号确定PID PORT=6800 #启动命令所在目录 HOME='/home/jmscra/scrapy/' #查询出监听了PORT端口
  • 人--自私与无私 永夜-极光
                今天上毛概课,老师提出一个问题--人是自私的还是无私的,根源是什么?               从客观的角度来看,人有自私的行为,也有无私的
  • Ubuntu安装NS-3 环境脚本 随便小屋 ubuntu
      将附件下载下来之后解压，将解压后的文件ns3environment.sh复制到下载目录下（其实放在哪里都可以，就是为了和我下面的命令相统一）。输入命令：   sudo ./ns3environment.sh >>result   这样系统就自动安装ns3的环境，运行的结果在result文件中，如果提示     com
  • 创业的简单感受 aijuans 创业的简单感受
           2009年11月9日我进入a公司实习，2012年4月26日，我离开a公司，开始自己的创业之旅。      今天是2012年5月30日，我忽然很想谈谈自己创业一个月的感受。 当初离开边锋时，我就对自己说：“自己选择的路，就是跪着也要把他走完”，我也做好了心理准备，准备迎接一次次的困难。我这次走出来，不管成败
  • 如何经营自己的独立人脉 aoyouzi 如何经营自己的独立人脉
    独立人脉不是父母、亲戚的人脉，而是自己主动投入构造的人脉圈。“放长线，钓大鱼”，先行投入才能产生后续产出。   现在几乎做所有的事情都需要人脉。以银行柜员为例，需要拉储户，而其本质就是社会人脉，就是社交！很多人都说，人脉我不行，因为我爸不行、我妈不行、我姨不行、我舅不行……我谁谁谁都不行，怎么能建立人脉？我这里说的人脉，是你的独立人脉。   以一个普通的银行柜员
  • JSP基础 百合不是茶 jsp注释隐式对象
      1,JSP语句的声明 <%! 声明 %> 　　 声明：这个就是提供java代码声明变量、方法等的场所。 表达式 <%= 表达式 %> 　　 这个相当于赋值，可以在页面上显示表达式的结果， 程序代码段/小型指令　<% 程序代码片段 %>   2,JSP的注释   <!-- -->
  • web.xml之session-config、mime-mapping bijian1013 javaweb.xmlservletsession-configmime-mapping
    session-config 1.定义： <session-config> <session-timeout>20</session-timeout> </session-config> 2.作用：用于定义整个WEB站点session的有效期限，单位是分钟。   mime-mapping 1.定义： <mime-m
  • 互联网开放平台（1） Bill_chen 互联网qq新浪微博百度腾讯
    现在各互联网公司都推出了自己的开放平台供用户创造自己的应用，互联网的开放技术欣欣向荣，自己总结如下： 1.淘宝开放平台(TOP) 网址：http://open.taobao.com/ 依赖淘宝强大的电子商务数据，将淘宝内部业务数据作为API开放出去，同时将外部ISV的应用引入进来。 目前TOP的三条主线： TOP访问网站：open.taobao.com ISV后台：my.open.ta
  • 【MongoDB学习笔记九】MongoDB索引 bit1129 mongodb
    索引 可以在任意列上建立索引 索引的构造和使用与传统关系型数据库几乎一样,适用于Oracle的索引优化技巧也适用于Mongodb 使用索引可以加快查询,但同时会降低修改,插入等的性能 内嵌文档照样可以建立使用索引 测试数据     var p1 = { "name":"Jack", "age&q
  • JDBC常用API之外的总结 白糖_ jdbc
    做JAVA的人玩JDBC肯定已经很熟练了，像DriverManager、Connection、ResultSet、Statement这些基本类大家肯定很常用啦，我不赘述那些诸如注册JDBC驱动、创建连接、获取数据集的API了，在这我介绍一些写框架时常用的API，大家共同学习吧。     ResultSetMetaData获取ResultSet对象的元数据信息
  • apache VelocityEngine使用记录 bozch VelocityEngine
    VelocityEngine是一个模板引擎，能够基于模板生成指定的文件代码。   使用方法如下：     VelocityEngine engine = new VelocityEngine();// 定义模板引擎     Properties properties = new Properties();// 模板引擎属
  • 编程之美-快速找出故障机器 bylijinnan 编程之美
    package beautyOfCoding; import java.util.Arrays; public class TheLostID { /*编程之美 假设一个机器仅存储一个标号为ID的记录，假设机器总量在10亿以下且ID是小于10亿的整数，假设每份数据保存两个备份，这样就有两个机器存储了同样的数据。 1.假设在某个时间得到一个数据文件ID的列表，是
  • 关于Java中redirect与forward的区别 chenbowen00 javaservlet
    在Servlet中两种实现： forward方式：request.getRequestDispatcher(“/somePage.jsp”).forward(request, response); redirect方式：response.sendRedirect(“/somePage.jsp”); forward是服务器内部重定向，程序收到请求后重新定向到另一个程序，客户机并不知
  • [信号与系统]人体最关键的两个信号节点 comsci 系统
            如果把人体看做是一个带生物磁场的导体,那么这个导体有两个很重要的节点,第一个在头部,中医的名称叫做 百汇穴, 另外一个节点在腰部,中医的名称叫做 命门         如果要保护自己的脑部磁场不受到外界有害信号的攻击,最简单的
  • oracle 存储过程执行权限 daizj oracle存储过程权限执行者调用者
    在数据库系统中存储过程是必不可少的利器，存储过程是预先编译好的为实现一个复杂功能的一段Sql语句集合。它的优点我就不多说了，说一下我碰到的问题吧。我在项目开发的过程中需要用存储过程来实现一个功能，其中涉及到判断一张表是否已经建立，没有建立就由存储过程来建立这张表。 CREATE OR REPLACE PROCEDURE TestProc  IS    fla
  • 为mysql数据库建立索引 dengkane mysql性能索引
    前些时候，一位颇高级的程序员居然问我什么叫做索引，令我感到十分的惊奇，我想这绝不会是沧海一粟，因为有成千上万的开发者（可能大部分是使用MySQL的）都没有受过有关数据库的正规培训，尽管他们都为客户做过一些开发，但却对如何为数据库建立适当的索引所知较少，因此我起了写一篇相关文章的念头。  最普通的情况，是为出现在where子句的字段建一个索引。为方便讲述，我们先建立一个如下的表。
  • 学习C语言常见误区 如何看懂一个程序 如何掌握一个程序以及几个小题目示例 dcj3sjt126com c算法
    如果看懂一个程序，分三步   1、流程   2、每个语句的功能   3、试数   如何学习一些小算法的程序 尝试自己去编程解决它，大部分人都自己无法解决 如果解决不了就看答案 关键是把答案看懂，这个是要花很大的精力，也是我们学习的重点 看懂之后尝试自己去修改程序，并且知道修改之后程序的不同输出结果的含义 照着答案去敲 调试错误
  • centos6.3安装php5.4报错 dcj3sjt126com centos6
    报错内容如下: Resolving Dependencies --> Running transaction check ---> Package php54w.x86_64 0:5.4.38-1.w6 will be installed --> Processing Dependency: php54w-common(x86-64) = 5.4.38-1.w6 for
  • JSONP请求 flyer0126 jsonp
          使用jsonp不能发起POST请求。 It is not possible to make a JSONP POST request. JSONP works by creating a <script> tag that executes Javascript from a different domain; it is not pos
  • Spring Security（03）——核心类简介 234390216 Authentication
    核心类简介 目录 1.1     Authentication 1.2     SecurityContextHolder 1.3     AuthenticationManager和AuthenticationProvider 1.3.1  &nb
  • 在CentOS上部署JAVA服务 java--hhf javajdkcentosJava服务
        本文将介绍如何在CentOS上运行Java Web服务，其中将包括如何搭建JAVA运行环境、如何开启端口号、如何使得服务在命令执行窗口关闭后依旧运行     第一步：卸载旧Linux自带的JDK ①查看本机JDK版本 java -version    结果如下 java version "1.6.0"
  • oracle、sqlserver、mysql常用函数对比[to_char、to_number、to_date] ldzyz007 oraclemysqlSQL Server
    oracle                                &n
  • 记Protocol Oriented Programming in Swift of WWDC 2015 ningandjin protocolWWDC 2015Swift2.0
    其实最先朋友让我就这个题目写篇文章的时候，我是拒绝的，因为觉得苹果就是在炒冷饭， 把已经流行了数十年的OOP中的“面向接口编程”还拿来讲，看完整个Session之后呢，虽然还是觉得在炒冷饭，但是毕竟还是加了蛋的，有些东西还是值得说说的。 通常谈到面向接口编程，其主要作用是把系统设计和具体实现分离开，让系统的每个部分都可以在不影响别的部分的情况下，改变自身的具体实现。接口的设计就反映了系统
  • 搭建 CentOS 6 服务器(15) - Keepalived、HAProxy、LVS rensanning keepalived
    （一）Keepalived （1）安装 # cd /usr/local/src # wget http://www.keepalived.org/software/keepalived-1.2.15.tar.gz # tar zxvf keepalived-1.2.15.tar.gz # cd keepalived-1.2.15 # ./configure # make &a
  • ORACLE数据库SCN和时间的互相转换 tomcat_oracle oraclesql
    SCN（System Change Number 简称 SCN）是当Oracle数据库更新后，由DBMS自动维护去累积递增的一个数字，可以理解成ORACLE数据库的时间戳，从ORACLE 10G开始，提供了函数可以实现SCN和时间进行相互转换； 　　 用途：在进行数据库的还原和利用数据库的闪回功能时，进行SCN和时间的转换就变的非常必要了； 　 　操作方法： 　　1、通过dbms_f
  • Spring MVC 方法注解拦截器 xp9802 spring mvc
    应用场景，在方法级别对本次调用进行鉴权，如api接口中有个用户唯一标示accessToken,对于有accessToken的每次请求可以在方法加一个拦截器，获得本次请求的用户，存放到request或者session域。 python中，之前在python flask中可以使用装饰器来对方法进行预处理，进行权限处理 先看一个实例,使用@access_required拦截： ?
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他