I got 51 problems but a #2 pencil ain’t one. Ich habe 51 Probleme, aber ein # 2 Bleistift ist nicht ein.

Booz Allen Hamilton has a funny name but they’re all about serious business. Booz Allen Hamilton hat eine lustige Namen, aber sie sind alle über ernste Angelegenheit. The “global strategy and technology Die "globale Strategie und Technologie consulting firm Beratungsunternehmen ” was contracted by the College Board in the fallout of the SAT scoring mistakes from last October. "Wurde durch das Kollegium der Verwaltungsrat im Fallout des SAT-Scoring-Fehler vom letzten Oktober. They audited the testing process and made a report, which was hidden away. Sie prüfte die Testverfahren und machte einen Bericht, der versteckt war. At least until Senator LaValle used subpoena powers and Zumindest bis zum Senator Lavalle verwendet Vorladung Befugnisse und demanded the report forderte der Bericht be made public–they were required to do so by New York’s “truth in testing” state laws but the College Board stated that they were “exempt from state law.” I love this choice quote: “Once again The College Board’s approach to problems is to shroud them in secrecy,” Senator LaValle said in a July 13 news release. öffentlich gemacht werden-sie wurden dazu verpflichtet New York's "Wahrheit in testing" state Gesetze, sondern das Kollegium Vorstand erklärten, sie seien "befreit von der staatlichen Recht." Ich liebe diese Wahl zitiere: "Wieder einmal The College Board" s Ansatz bei der Probleme ist zu hüllen sie im Geheimen ", sagte Senator Lavalle in einem 13. Juli Pressemitteilung. Their attitude gives rise to greater questions as to their true purpose .” What do you mean, Senator LaValle? "Ihre Haltung führt zu mehr Fragen als zu ihren wahren Zweck." What do you mean, Senator Lavalle? Is there still a problem? Gibt es noch ein Problem?

“The board’s lack of accountability in this matter goes to the heart of the arrogance that exists when an organization basically holds a monopoly in a certain market,” LaValle said in a statement following the release of the report. "Der Vorstand der Mangel an Verantwortlichkeit in dieser Frage geht an die Herzen der Arroganz, die besteht, wenn eine Organisation im Grunde hat ein Monopol in einem bestimmten Markt", Lavalle, sagte in einer Erklärung im Anschluss an die Veröffentlichung des Berichts. “This report still does not answer why such a large number of testing errors occurred on the October 2005 SAT. "Dieser Bericht immer noch nicht beantworten, warum eine so große Zahl von Prüf-Fehler aufgetreten ist in der Oktober-2005 SAT. In addition, the board has not provided an explanation of why it took several months to inform over 4,000 students of inaccurate test scores.” Darüber hinaus hat der Vorstand nicht eine Erklärung, warum dauerte es mehrere Monate zu informieren, über 4000 Studenten der falsche Testergebnisse. "

Additionally, The National Center for Fair and Open Testing responded to the report by releasing a list of questions that the study did not answer. Außerdem Das Nationale Zentrum für fairen und offenen Test reagierte auf den Bericht durch die Freigabe eine Liste von Fragen, die die Studie nicht beantworten. Among them: What was the root cause of the problem? Unter ihnen: Was war die Ursache des Problems? When did The College Board receive the first request for hand scoring of the October SAT? Wann hat das College Board erhalten die erste Anfrage für Hand-Scoring der Oktober SAT? How many weeks did it take for the board to respond to that request? Wie viele Wochen hat es gedauert für den Vorstand als Reaktion auf diese Forderung? When did The College Board first discover a broad problem? Wann hat die erste College Board entdecken ein breites Problem? Why was there a delay between that time and when test takers and others were informed of the problem? Warum war es eine Verzögerung zwischen diesem Zeitpunkt und bei der Prüfung und andere Abnehmer wurden über das Problem?

[thanks, [Dank, Daily Stanford Täglich Stanford ]

Now, I went into that report (it’sa powerpoint presentation) and picked out some of the most fun parts of it. Nun, ich ging in diesem Bericht (es ist eine Powerpoint-Präsentation) und abgeholt werden einige der am meisten Spaß Teile davon. Actually, it’s more a case of me fearmongering by promoting potentially frightening sections of a report which just goes to show how flimsy the SAT is as part of a situation which just demonstrates how much that not-for-profit status is bullshit. Eigentlich ist es eher ein Fall von mir fearmongering durch die Förderung potenziell erschreckend Abschnitte eines Berichts der nur da, um zu zeigen, wie schwach der SAT ist als Teil einer Situation, die nur zeigt, wie viel das not-for-profit-Status ist Bullshit.


The report was released July 26 and has since been buried from the public as best the College Board can manage. Der Bericht wurde im Juli 26 und hat seither begraben von der Öffentlichkeit als die besten College Board verwalten können. It’s available on their website Es ist auf ihrer Website zugänglich here hier ; I’m not making this stuff up. , Ich bin nicht machen dieses Zeug. Booz Allen Hamilton placed each of the 51 identified error-risk-locations into one of these categories: Booz Allen Hamilton in jedem der 51 identifizierten Fehler-Risiko-Standorte in eine dieser Kategorien:

A. Not at all mitigated or detected A. Gar nicht gemildert oder festgestellt
B. Partial mitigation or detection of risk B. Teilweise Linderung oder Erkennung von Risiken
C. Substantial mitigation or detection of risk C. erhebliche Abschwächung oder zur Erkennung von Risiken
D. Completely mitigated or detected D. gemildert oder vollständig erkannt

There were some really cute flowcharts and diagrams, too–even little pie charts of “overall rating” for the likelihood a particular flaw in the testing chain could fail. Es gab einige wirklich niedlich Flussdiagramme und Diagramme-sogar zu wenig Pie-Charts "Allgemein" die Wahrscheinlichkeit für eine bestimmte Fehler in der Prüf-Kette könnte scheitern. There were several charts–one titled “Prioritization of Risk” (on slide 54 for those reading along) shows the killzone. Es gab mehrere Charts-ein Titel "Priorisierung von Risk" (in Folie 54 für diese Lesung entlang) zeigt die Killzone. These 4 were both of “higher impact” (ie “affects large part or whole answer sheet”) and “high likelihood,” remember the color scheme: Diese 4 waren die beiden "höhere Auswirkungen" (dh "wirkt sich auf große Teile oder ganze Antwort Blatt") und "hohe Wahrscheinlichkeit", merken Sie sich das Farbschema:

7. Scanner reading variation due to erasure 7. Scanner Lesung Variation aufgrund Löschung
3. 3. Scanner variation on marginal marks Scanner Variation in marginalen Marken
4. Scanner reading variation due to alternative writing implement Scanner Lesung Variation aufgrund Alternative schriftlich umsetzen
26. Answer sheets left in test books Auflösungsteil links im Test Bücher

Don’t worry, they provide partial solutions on slide 56. Machen Sie sich keine Sorgen, sie bieten teilweise Lösungen auf Folie 56. For instance, pesky #7 can be solved by… Zum Beispiel, nervtötenden # 7 lassen sich lösen, indem…

  1. Continue double scan Weiter doppelte Scan
  2. Supply pencils/erasers at test centers Supply Bleistifte / Radiergummis im Test-Center

Wait, that’s it? Warten Sie, das war's? That’s how they solve it? Das ist, wie sie es lösen? What about the blank spaces under “medium-term improvements” and “major future changes” or “follow-on analysis”? Was ist mit den Leerzeichen unter "mittelfristig Verbesserungen" und "große Zukunft Änderungen" oder "Follow-on-Analyse"? Why is there even the “follow-on analysis” table if there is nothing in it on that entire slide? Warum gibt es sogar das "Follow-on-Analyse" Tisch, wenn es nichts in ihm auf, dass ganze schieben? Okay, whatever. Okay, was auch immer. How do we solve “ Scanner reading variation due to alternative writing implement ” ? Wie können wir lösen "Scanner Lesung Variation aufgrund Alternative schriftlich umzusetzen"? We… supply pencils and erasers at test centers. Wir liefern… Bleistifte und Radiergummis im Test-Center. Oh. And that finishes it? Und das endet es? Oh, we can “Investigate software upgrades for consistent readings (color scanning, wavelength, etc.)” also? Oh, wir können "Untersuchen Software-Upgrades für eine konsistente Lesungen (Farb-Scannen, Wellenlänge, usw.)" auch? That’s great. Das ist toll. And then eventually have an online test? Und dann haben Sie eine Online-Test? That sounds stupid but I’ll take your word for it. Das klingt dumm, aber ich werde Ihre Wort für sie. Hmm, those problems sound easier to fix than some of the other ones, though. Hmm, diese Probleme Ton leichter zu beheben, als einige der anderen diejenigen, though. Error 51, Errors in deleting items from database –that sounds nasty. 51 Fehler, Fehler beim Löschen von Artikel-Datenbank-das klingt böse. You would have to ” Ensure DB backup and rollback procedures in place” to solve that one. Sie müssten "zu gewährleisten, DB-Backup-und Rollback-Verfahren im Ort" zu lösen, dass ein.

Oh well, I’ll trust that stuff. Naja, ich gehe davon aus, dass Zeug. I’ll just skip to the appendix and see if there is anything else of interest…Oh, look, here are some of those things that were of lower likelihood! Ich werde einfach überspringen, um die Anlage und sehen, ob es irgendetwas anderes von Interesse… Oh, schau mal, hier sind einige dieser Dinge, die von geringerer Wahrscheinlichkeit! These can’t be very important. Diese können nicht sehr wichtig. Hang on, they could have “higher” impact? Hang on, sie hätten "höhere" Auswirkungen? Okay, what happens if there is “Scanner variation due to smeared pencil marks.” That can’t be that bad. Okay, was passiert, wenn es "Scanner Variation aufgrund schmierte Bleistift markiert." Das kann doch nicht so schlimm. Smeared pencil marks due to manual handling–I can see that happening, I guess. Schmierte Bleistift markiert durch die manuelle Handhabung-Ich sehe das geschieht, I guess. And what’s the result? Inaccurate scores ? Und was ist das Ergebnis? Ungenaue Bewertungen? Say it ain’t so! Sprich es ist nicht so! Well, at least there are now protections for that. Nun, zumindest gibt es nun für diese Schutzmechanismen. Wait, there are “none” now or in the foreseeable future? Warten Sie, gibt es "keine" jetzt oder in absehbarer Zukunft? Dang. Too bad there are several other ways for that to happen, too–not least among them a PEM database corruption which results in data storage failure and then… inaccurate scores. Too bad gibt es mehrere andere Möglichkeiten für das geschehen kann, auch-nicht zuletzt unter ihnen eine PEM-Datenbank Korruption der Ergebnisse in Datenspeicherung Versagen und dann… ungenaue Ergebnisse. And which again has “none” ways against happening right now. Und wieder hat die "none" gegen die Art und Weise geschieht gerade jetzt. Glad to see you have it all under control, College Board, but I’m still seeing a little too much red . Glad sehen Sie haben alles unter Kontrolle, College Board, aber ich bin noch immer ein wenig zu viel rot. Not you, though–all you see is green, green, cash. Sie nicht, wenn-alles, was Sie sehen, ist grün, grün, Bargeld. Good thing you still manage to keep the best interests of the students your balance books in mind. Gute Sache, die Sie noch verwalten, um die besten Interessen der Studenten Ihr Kontostand Bücher im Auge behalten.

Finish with more from the Daily Stanford article… Fertig stellen mit mehr von der täglichen Stanford Artikel…

In the long run, the report makes the recommendation of offering the SAT online as a way to minimize scoring problems due to mechanical malfunctions, though the prospect of an online SAT raises many security questions. Auf lange Sicht macht der Bericht die Empfehlung des Angebots der SAT online als eine Möglichkeit zur Minimierung der Scoring-Probleme aufgrund von mechanischen Störungen, auch wenn die Aussicht auf eine Online-SAT wirft viele Fragen der Sicherheit. Certainly, the amount of weight given to SAT scores in college admissions necessitates that the process be carefully scrutinized for error. Sicherlich wird der Betrag von Gewicht SAT Bewertungen im College Kinobesuche erfordert, dass der Prozess sorgfältig geprüft werden, für Fehler.

Although The College Board insists that the mistakes that led to last fall’s incorrect exams will be fixed, and the problem was an isolated incident, the organization’s reputation as a supposedly non-profit, fair institution has been damaged by the mistake and its initial refusal to cooperate with the Senate Higher Education Committee. Obwohl das College Board besteht darauf, dass die Fehler, die dazu geführt, dass im vergangenen Herbst wegen fehlerhafter Prüfungen festgelegt wird, und das Problem war ein isolierter Vorfall, der Organisation den Ruf als vermeintlich non-profit, faire Institution beschädigt wurde durch die Fehler und ihre ursprüngliche Weigerung zur Zusammenarbeit mit dem Senat Higher Education Committee. Moreover, this gives rise to the question of whether the SAT should continue to be used in college admissions. Darüber hinaus ist dies gibt Anlass zu der Frage, ob die SAT sollten auch weiterhin verwendet werden, im College Besucherzahlen.

Wooooo.

Oh, for dessert: here are all 51 problem areas: Oh, als Dessert: Hier sind alle 51 Problembereiche:

A. Not at all mitigated or detected A. Gar nicht gemildert oder festgestellt
B. Partial mitigation or detection of risk B. Teilweise Linderung oder Erkennung von Risiken
C. Substantial mitigation or detection of risk C. erhebliche Abschwächung oder zur Erkennung von Risiken
D. Completely mitigated or detected D. gemildert oder vollständig erkannt
6. Scanner wrongly picks up persistent debris as a mark 6. Scanner zu Unrecht greift hartnäckige Ablagerungen als Marke
7. Scanner reading variation due to erasure 7. Scanner Lesung Variation aufgrund Löschung
8. Scanner reading variation on hesitation marks 8. Scanner Lesung Variante Zögern Marken
17. Answer sheet wrongly force matched to student 17. Auflösungsteil Unrecht Kraft abgestimmt auf Schüler
22. Scanner misreads marks due to scan track corruption 22. Scanner misreads Marken aufgrund Scan Spur der Korruption
25. Packages tampered with before shipping 25. Pauschalen manipuliert vor Versand
32. Scanner variation due to smeared pencil marks 32. Scanner Variation aufgrund schmierte Bleistift Marken
47. Key entry mistakenly mixes pages from different answer sheets 47. Key Eintrag fälschlicherweise Mischungen von verschiedenen Seiten Auflösungsteil
49. PEM database gets corrupted 49. PEM-Datenbank beschädigt wird
51. Errors in deleting items from database 51. Fehler beim Löschen von Artikel-Datenbank
1. Bubble alignment error due to paper manufacturing 1. Bubble Angleichung Fehler aufgrund von Papierherstellung
2. Paper alignment error due to paper material 2. Paper Angleichung Fehler aufgrund von Material Papier
3. Scanner variation on marginal marks 3. Scanner Variation in marginalen Marken
4. Scanner reading variation due to alternative writing implement 4. Scanner Lesung Variation aufgrund Alternative schriftlich umsetzen
5. Scanner wrongly picks up loose debris as a mark 5. Scanner zu Unrecht greift Loser Splitt als Marke
9. Inconsistency in scanning of double grids 9. Inkonsistenz in Scannen von Doppel-Netze
10. Scanner picks up unintended marks from back side of paper 10. Scanner greift unbeabsichtigte Spuren von Rückseite des Papiers
11. Scanner picks up unintended marks due to rubbing adjacent pages 11. Scanner greift unbeabsichtigten Marken durch Reiben angrenzenden Seiten
12. Editor assigns incorrect answer key due to invalid/missing test code/ form code 12. Herausgeber weist falsche Antwort Schlüssel aufgrund ungültiger / Fehlendes Test-Code / Form-Code
13. Incorrect answer key used due to student entering wrong valid test/form code 13. Falsche Antwort Schlüssel verwendet wird wegen falscher Eingabe Student gültigen Test / Form-Code
16. Answer sheet wrongly manually matched to student by PEM 16. Auflösungsteil manuell zu Unrecht abgestimmt auf Schüler von PEM -
19. Student gets incomplete score using composite answer sheet 19. Student erhält unvollständig des Gastes mit Composite-Antwortbogen
21. Scanner reading variation due to partially wet sheets 21. Scanner Lesung Variation aufgrund teilweise nassen Blätter
26. Answer sheets left in test books 26. Auflösungsteil links im Test Bücher
28. Answer sheets go missing before receipt 28. Auflösungsteil gehen fehlt vor Eingang
37. Scanner variation on “good” marks due to unforeseen paper distortion 37. Scanner Variation in "gute" Marken aufgrund unvorhergesehener Papier Verzerrung
38. 2 nd scanner out of tolerance 38. 2 nd Scanner außerhalb der Toleranz
39. 1 st scanner out of tolerance 39. 1 st Scanner außerhalb der Toleranz
40. Both scanners out of tolerance 40. Beide Scanner außerhalb der Toleranz
41. Unforeseen events cause scanner variation 41. Unvorhergesehene Ereignisse verursachen Scanner Variation
43. Scanner software bugs due to code changes 43. Scanner-Software-Bugs durch Code-Änderungen
44. Wrong answer sheet pulled from batch for editing 44. Falsche Antwort Blatt gezogen von Charge zu bearbeiten
48. Item level edit mistake 48. Positionsebene bearbeiten Fehler
15. Answer sheet wrongly automatched to student 15. Auflösungsteil Unrecht automatched auf Studienbeihilfe
18. Scanner reading variation due to humidity/ moisture 18. Scanner Lesung Variation aufgrund Feuchte / Feuchtigkeit
20. Typed essay not correctly matched to student 20. Typed Essay nicht korrekt abgestimmt auf Schüler
23. Packages are tampered with during shipping 23. Packages sind manipulationssicher ist während des Versands
24. Packages are damaged during shipping 24. Beschädigten Pakete werden während des Versands
27. Exams discovered in test booklets late at PEM 27. Prüfungen entdeckt in Test Booklets spät in die PEM -
29. Answer sheet packages go missing before receipt 29. Auflösungsteil Pakete gehen fehlt vor Eingang
30. Answer sheets destroyed with shipping materials 30. Auflösungsteil zerstört den Versand der Materialien
31. Answer sheets or boxes misplaced at PEM 31. Auflösungsteil-Boxen oder fehl am Platze zu PEM
42. Sheet scanned once only (unscannable on other attempt) 42. Gescannten Noten nur einmal (unscannable in anderen Versuch)
14. Student enters wrong valid/ cross admin registration number 14. Student betritt falsch Gültig / Cross admin Registriernummer
33. Scanner reads marks in wrong order due to answer sheets flipped over 33. Scanner liest Marken falschen Reihenfolge aufgrund Auflösungsteil umgedreht über
34. Pages from answer sheets in wrong order after slitting 34. Seiten aus Auflösungsteil in der falschen Reihenfolge nach Schlitzung
35. Pages from answer sheet go missing at scanner 35. Antwort von Seiten gehen Blatt fehlt in Scanner
36. Pages stuck together going through scanner 36. Seiten geklebt wird durch Scanner
45. Erroneous manual key entry for unscannables 45. Fehlerhafte manuelle Eingabe-Taste für unscannables
46. Editor makes test/form code error on unscannables 46. Editor macht test / Form-Code Fehler auf unscannables
50. Data feed generation gets corrupted 50. Data-Feed-Generation wird beschädigt